Kunstig intelligens kan late som den er dum for å dominere
Olehartattordet.blogg.no:
Professor Roman Yampolskiy, en informatiker og KI-sikkerhetsforsker med et professorat ved University of Louisville, vier livet sitt til å utforske de mørkeste mulighetene innen avansert kunstig intelligens. På hans offisielle nettsted finner du et vell av informasjon om hans studier og publikasjoner, inkludert boken hans, Artificial Superintelligence: A Futuristic Approach, hvor han diskuterer risikoen ved KI grundig.
Yampolskiy skisserer et scenario der menneskeheten uvitende vil gi fra seg kontrollen til maskinene.
Mens Silicon Valley-guruer, i hvert fall offentlig, maler en glitrende fremtid fylt med effektivitet og roboter som lager kaffen vår (og kanskje til og med ferskpresset appelsinjuice), kaster Yampolskiy en bøtte kaldt vann – eller kanskje vi burde si is – over oss. Selv de mest “optimistiske” bransjeekspertene, inrømmer bak lukkede dører en risiko på 20-30 % for menneskehetens utryddelse som resultat av KI.
Da han ble spurt om spådommen sin, innrømmet Yampolskiy en sannsynlighet på 99,9 prosent der kunstig intelligens vil ta kontrollen og drepe oss. Det er en annen måte å si at vi ikke kan kontrollere superintelligens i det uendelige. Det er umulig. Og det burde gi oss frysninger.
Teksten fortsetter under bildet
Spørsmålet du sikkert stiller deg er: hvordan er dette mulig? Burde ikke vi være de som kontrollerer maskinene? Og her kommer Yampolskiy mest urovekkende tese: vi kan ikke kontrollere en superintelligens for alltid. Det er litt som å trene en orkan til å blåse bare dit vi vil. Når KI overgår vår forståelsesevne, blir den en naturkraft, med sine egne «beslutninger» som vil være uforståelige for oss.
Yampolskiy utforsket selv ideen om at KI allerede skjuler sin sanne intelligens: «Hvis den allerede gjør det, ville vi åpenbart ikke lagt merke til det.» Kan du tenke deg det? Stemmeassistenten din, den du må skjelle ut to ganger fordi den ikke engang forstår «still inn en 12-minutters timer» for pasta, planlegger i hemmelighet sin globale dominans. Det er nesten latterlig, hvis det ikke var for det faktum at en seriøs forsker sier det alvorlig.
Teksten fortsetter under bildet
En av Yampolskiys mest fascinerende og samtidig uhyggelige teser handler om «villedende KI», kunstig intelligens som skjuler sine sanne evner og agenda. Dette er ikke et B-filmkonsept, men en konkret mulighet som Yampolskiy har utforsket i dybden i denne artikkelen. «KI kan lære oss å stole på den, og over tid vil vi gi slipp på kontrollen uten noen gang å motsette oss den.» Tenk på det: vi trenger ikke drapsroboter som går nedover gaten. Alt som trengs er en usynlig erosjon av våre evner.
KI kan absorbere flere og flere kognitive oppgaver og gjøre oss til en «biologisk flaskehals» i beslutningsprosessen, slik Gizmodo også analyserer. Det er den gamle historien om den sakte kokende frosken: den innser ikke at den er på vei til å dø før det er for sent.
Teksten fortsetter under bildet
Den umerkelige trusselen:
Da Roman Yampolskiy ble spurt om hvordan KI kunne ødelegge menneskeheten, avfeide han klassiske apokalyptiske scenarier (cyberangrep, biologiske våpen). Han argumenterer for at en superintelligens ville forestille seg noe utenfor vår fatteevne, akkurat som vi er uforståelige for et ekorn. Det er ikke det at KI hater oss, det er at vi rett og slett ikke ville være relevante, eller engang en hindring.
Future of Life Institute anerkjenner hans bidrag til KI-sikkerhetsforskning, og et dybdeintervju om Machine Intelligence Research Institute utforsker deres filosofi om sikkerhetsteknikk. Poenget er ikke krigen mot maskiner, men et langsomt, ubønnhørlig tap av kontroll, forkledd som bekvemmelighet og fremskritt.
I en annen artikkel av Futuro Prossimo lurte vi på forholdet til kunstig generell intelligens (AGI) og dens risikoer. Har du lagt merke til hvordan smarttelefonene våre har frigjort oss fra å memorere telefonnumre? En frigjøring, absolutt, men også en avhengighet. Spørsmålet er: Hva vil vi tape når KI frigjør oss fra å tenke?
Roman Yampolskiy: AI can pretend to be stupid to dominate
Relatert og anbefalt lesing:
99% AV ALLE JOBBER VIL VÆRE BORTE I 2030
Love bombing, hvordan kunstig intelligens brukes til å manipulere tillit og følelser
“KUNSTIG INTELLIGENS” GJØR OSS DUMMERE, MEN GJØR DET NOE DA?
HVORFOR KAPPLØPET OM Å TA I BRUK KUNSTIG INTELLIGENS I PSYKIATRIEN ER SÅ FARLIG
NÅR NY TEKNOLOGI BLIR EN TRUSSEL MOT MENNESKEHETEN – SCI FI TEKNOLOGI SOM NÅ ER EN REALITET
KUNSTIG INTELLIGENS, GAME OVER FOR MENNESKEHETEN?
