Nobelpristagare varnar för sin egen AI-forskning

Han tilldelades världens mest prestigefulla pris för sin AI-forskning. Nu oroas Geoffrey Hinton över konsekvenserna av hans livsverk.
– Vi har ingen erfarenhet av hur det är att ha saker som är smartare än oss, säger han.

John Hopfield och Geoffrey Hinton tilldelas årets Nobelpris i fysik för deras AI-forskning. Hopefield och Hinton anses vara pionjärer inom AI och deras arbete lade grunden för bland annat den revolutionerande chatboten ChatGTP. Men Geoffrey Hinton, som ofta kallas gudfadern av artificiell intelligens, är oroad över AI:s konsekvenser.
– Det är svårt att se hur man kan förhindra dåliga aktörer från att använda det för dåliga saker, sa Hinton i en intervju med New York Times förra året.

Intervjun gjordes i samband med att Hinton sade upp sig som vice ordförande på Google Brain för att fritt kunna tala om riskerna med AI. Han har bland annat varnat om spridningen av falska nyheter och risken för att en artificiell superintelligens tar över. Trots att han nu tilldelas Nobelpriset för sina forskningsinsatser finns orosmolnen kvar.

– Inte i den meningen att jag känner skuld. Jag skulle göra samma sak igen under samma omständigheter. Men i den meningen att jag är orolig för konsekvenserna, svarade Hinton när en reporter frågade om hans uttalanden i New York Times i samband med att pristagarna tillkännagavs.

Geoffrey Hinton jämförde också AI:s framsteg med den industriella revolutionen och lyfte dess positiva inverkan på bland annat sjukvården. Men han höjde också ett varningens finger.
– Vi har ingen erfarenhet av hur det är att ha saker som är smartare än oss. Det kommer att bli underbart i många avseenden, men vi måste vara medvetna om en rad möjliga negativa konsekvenser. Särskilt risken för att vi förlorar kontrollen, säger han.

Pristagarna har utfört banbrytande forskning sedan 1980-talet. John Hopfield, 91, utvecklade ett nätverk som fungerar som ett associativt minne, som kan lagra och återskapa bilder och mönster från data. Detta lade grunden för neurala nätverksförmåga att känna igen och hantera mönster. Geoffrey Hinton, 76, byggde vidare på Hopfields arbete genom att utveckla Boltzmann-maskinen och har under sin karriär varit avgörande i den snabba utvecklingen av maskininlärning och artificiell intelligens. Deras arbete har redan haft stor betydelse inom områden som bland annat klimatmodeller, astrofysik och medicin.
Bild: Johnny Guatto/University of Toronto.
LÄS MER: