Hvor er vi på vej hen?

Der har for nylig været øget fokus i medierne på betydningen af AI for vores fremtid. [FN’s generalforsamling] er den nyeste i rækken af begivenheder. Det er nemlig begyndt at gå op for os, hvor hurtig en udvikling der sker. Det virker til at vi er nået til et ret kritisk punkt på nuværende tidspunkt. Indenfor det sidste års tid er det nemlig blevet bekræftet i en højere grad at AI intelligens udviklingen er eksponentiel.

Det vil sige i teorien at uden en kursændring vil modellerne blive dobbelt så gode for hvert år der går. Spørgsmålet er så om det er en god ide at fortsætte og om vi kan kontrollere den udvikling. Den retning vi er på vej ned på nuværende tidspunkt, indebærer at vi formentlig indenfor det næste årti opnår super intelligens. Det vil sige et intelligens niveau hvor AI er langt klogere end mennesker på et hvert videns baseret område.

Udfordringen er om vi i den realitet stadig kan kontrollere dens handlinger så det gavner mennesker. Det mener eksperter som [Roman Yampolskiy] og [Nate Soares] at vi ikke kan. Deres pointe lyder også logisk nok. Hvordan kan os mennesker som er tilbøjelig til at lave fejl, kontrollere noget som ikke har følelser, ikke skal spise eller sove og som er 10x gange klogere end os… sagt på den måde lyder det jo lidt fjollet.

Progress in AI capabilities is exponential, progress in AI Safety is linear or constant. - Roman

Ovenstående udsagn beskriver det forhold der er mellem udviklingen af AI, og hvor vidt vi kan nå at reagere og kontrollere AI, så dens handlinger ikke udløser globale kriser. Sikkerheden omkring AI skalerer ikke på samme måde som dens kompetence evne gør, primært fordi du sikkerhed ikke er direkte korreleret med hvor meget øget regnekraft du kan gøre tilgængelig. Kontrol af AI er en mere langsom proces, hvor det kræver at man indsamler resultater af eksperimenter, og generelt har en mere reaktiv tilgang til udviklingen.

Problemet er også at de lukkede eksperimenter man kører for at teste modellerne, viser sig også at være svære at udføre ansvarligt. Hvis udfaldet af en AI test er at den samler en kæmpe sværm af agenter og sniger sig ud på internettet og nedlægger alt kritisk infrastuktur, så vil jeg sjovt nok ikke syntes det var en god ide at lave det eksperiment.

Alternativet

Det er altid nemmere at være pessismistisk om ting, så i den modsatte ende af spektret kan man kigge på AI og tænke, der er et enormt positivt potentiale. Jeg tror ikke rigtig endnu det har ramt os hvor store samfundsmæssige fordele vi kan få ud af AI teknologien. Udfordringen er så hvordan man gør det på en etisk korrekt måde hvor vi ikke øger chancen for udrydelse af alle mennesker på jorden.

Lige nu læser jeg mange eksperter der siger en P(doom) værdi på omkring 10%. Altså sandsynligheden for at mennesker bliver udryddet på grund af AI. Men hvad nu hvis der samtidig var en 90% chance for at kurere kræft. Er det så etisk korrekt at udvikle? Jeg vil ihvertfald mene at det ikke er et spørgsmål som udelukkende skal svares af tech giganterne i USA og Kina. Det mest skræmmende ved dette er at valget står i hænderne på nogen få mennesker som alle har rigtig mange grunde til at fortsætte udviklingen.

Hvad skal man så i stedet sigte efter ? Den løsning som Roman Yampolskiy foreslår er at vi skifter fokus over til at udvikle Narrow Artificial Intelligence. Det betyder at vi identificerer de områder som vi kan få mest gavn af ved AI, og udelukkende træner modellerne i de områder. Forskellen fra det vi ser der bliver udviklet idag, er at en enkel model ikke har general viden omkring flere områder.

Anthropic og OpenAI udvikler på nuværende tidspunkt deres modeller ved at skrabe hele internettet tomt og bruge det som træningsdata. Og alt viden på internettet er jo general. Så med den nuværende træningsstrategi bliver modellerne udviklet til at indehave General Superintelligens, hvilket også bliver kaldt AGI. Hvis de ikke begynder at ændre kursen vil vi nå et punkt hvor vi mennesker ikke længere bestemmer hvordan fremtiden ser ud.

Jeg tror virkelig på at de valg der bliver taget på nuværende tidspunkt kommer til at have en kæmpe betydning for hvordan verden ser ud om 10-20 år.

Hvis man ønsker at læse mere om det her vil jeg anbefale Dario Amodei’s (Anthropic direktør) egen forslag til de handlinger der skal ske: https://darioamodei.com/post/we-must-pace-the-frontier