Caspian Rehbinder

Caspian Rehbinder, vice ordförande för Centerstudenter, har skrivit en mycket bra essä hos Timbro om basinkomst.

Länk: Medborgarlön är effektiv och rättvis

Jag var programmerare innan jag halkade in i politiken, och jag tycker AI-diskussionen som försigår lite överallt är fascinerande.

Men det finns inget sätt för ett dataprogram att utvecklas till en självständig intelligens av samma slag som människan. Det skulle strida mot själva grunden för vad ett dataprogram är och hur datorer fungerar.

Ett dataprogram, hur komplicerat det än är, är bara en matematisk formel som för varje uppsättning indata genererar en viss uppsättning utdata. Dataprogram kan vara stora och komplicerade och bestå av miljontals rader kod, men i grunden fungerar de på precis samma sätt som de enkla formler vi lärde oss i matematiken och fysiken i skolan. Stoppar man in vissa värden i formeln kommer det ut vissa andra värden. Processen är helt deterministisk, och om man kör om ett dataprogram med exakt samma indata får man alltid exakt samma resultat.

För att förstå kan man jämföra med en enkel formel från skolan, till exempel formeln A = b * h som räknar ut arean på en rektangel. För bestämda värden på b och h kommer formeln alltid att leverera exakt samma värde på A som utdata. Precis så fungerar varje dataprogram. Samma indata genererar alltid samma utdata, på ett helt och hållet mekaniskt och upprepningsbart sätt.

Att räkna ut areor är iofs förknippat med intelligens: människor kan det, men schimpanser och daggmaskar kan det inte. Skriver vi ett dataprogram som räknar ut arean på rektanglar kommer det programmet uppvisa ett beteende som för en utomstående betraktare kan framstå som lika smart som en femteklassare. Men själva formeln är inte intelligent. Den har inget medvetande, och det beror inte bara på att det är en väldigt enkel formel som kan skrivas på en enda rad. Även om formeln/dataprogrammet består av en miljon rader, är det fortfarande bara ett mekaniskt räkneschema, inte en intelligens. Så länge det inte uppstår något hårdvarufel i datorn som programmet körs på, blir det alltid exakt samma utdata från en viss uppsättning indata, enligt de mekaniska reglerna i formeln/dataprogrammet.

Det här gäller även så kallade ”självlärande” program. När ett program ”lär sig” innebär det inte att något medvetande inne i programmet får djupare insikter, som det gör när en människa lär sig något. Det enda som händer när ett dataprogram ”lär sig” är att vissa interna parametrar i programmet får bättre värden, så att programmet blir bättre på att leverera det önskade resultatet.

Det går att skriva fullständigt fantastiskt användbara program på det här sättet, och vi är alla djupt imponerade av framstegen som görs med ”självlärande” program för bildanalys, rösttolkning, bilkörning, schack/backgammon/go eller vad som helst. Men hela ”inlärningsprocessen” är precis lika mekanisk och förutbestämd som allting annat som en dator gör. Med en viss uppsättning indata kommer programmet alltid ”lära sig” exakt samma sak, och därefter bete sig på exakt samma sätt varje gång det körs med samma indata.

Om vi för resonemangets skull ändå tänker oss att ett (tillräckligt komplicerat) dataprogram på något sätt skulle kunna utveckla ett medvetande, då skulle jag tycka väldigt synd om det medvetandet. Det skulle i så fall befinna sig i samma situation som en människa som har medvetandet och alla sinnen helt intakta, men är totalförlamad utan någon som helst möjlighet att kommunicera med omvärlden. För hur intelligent och medvetet dataprogrammet än skulle vara, finns det inget sätt för det att påverka vad det blir för utdata när programmet körs. Vad det blir för utdata är ju fullständigt och entydigt bestämt av de matematiska uttrycken som är skrivna i dataprogrammet. Även om formeln A = b * h på något magiskt sätt kunde bli sjävmedveten och intelligent och känna att arean av en rektangel borde vara något annat än vad formeln säger, skulle ju den intelligensen inte kunna påverka vad resultatet blir när man tillämpar formeln.

Det enda sätt som dataprogrammets tänkta medvetande skulle kunna påverka vad det blir för utdata skulle vara om det på någon sorts telekinetisk väg kunde förorsaka exakt rätt hårdvarufel i datorn där programmet körs, så att resultatet blir något annat än det som var skrivet i programkoden. Men att det skulle fungera på det viset tror jag ingen av oss tror, så den möjligheten kanske vi kan bortse ifrån. Och om vi utesluter holistisk telekinesi finns det inget annat sätt för det tänkta medvetandet att påverka omvärlden. Datorer är uttryckligen konstruerade för att göra exakt det som det står i programkoden, varken mer eller mindre. Därmed finns det inget ”wiggle room” som en hypotetisk datorbaserad intelligens skulle kunna använda för att ta sig ur programkodens deterministiska boja. Det enda ett tänkt medvetande i ett dataprogram skulle kunna göra vore att med bestörtning och frustration se på när datorn slaviskt följer varje instruktion i dataprogrammet om och om igen, hur dum det artificiella medvetandet än tycker att den ursprungliga programkoden är. En dator kan helt enkelt aldrig bli intelligent, för det skulle strida mot hur datorer är konstruerade.

Men tittar man på internet som helhet, då är det inte omöjligt att det är en framväxande intelligens. Hade internet bara bestått av en massa sammankopplade datorer, då hade invändningen att datorer är deterministiska också gällt för internet som helhet. Massor av deterministiska delar sammankopplade med varandra på ett deterministiskt sätt, blir fortfarande en deterministisk helhet.

Men internet består inte av miljarder sammankopplade datorer. Det består av miljarder sammankopplade människor. Därmed faller invändningen att delarna är deterministiska, för det är de ju inte när noderna utgörs av människor istället för maskiner.

Själv är jag fullständigt övertygad om att internet som vi känner det idag är början på en emergent intelligens, med människor som noder. Det är otroligt spännande. Det är förstås ingenting jag kan bevisa, men det är vad jag personligen tror, och det som är viktigt i det här sammanhanget: Det faktum att datorer bara är deterministiska räknesnurror motsäger inte på något sätt hypotesen att miljarder sammankopplade människor skulle kunna bilda något som är mer än summan av delarna. I varje enskild mänsklig nod finns det wiggle room så det räcker och blir över, så ”internet of people” är inte en mekanisk maskin som kan beskrivas i matematisk programkod. Det uppvisar en massa spännande egenskaper som vi normalt förknippar med intelligens och medvetande.

I och med det blir hela den etiska och filosofiska diskussionen om AI relevant igen, även om vi accepterar att varken datorer eller nätverk av datorer kan göra något annat än att räkna ut matematiska uttryck utan att förstå varför. Det är inte sladdarna och programkoden som håller ihop internet som gör det intressant. Det är människorna som använder internet för att koppla ihop sig med varandra som är det fantastiska. Och att en massa intelligenta noder tillsammans skulle kunna bilda en hyperintelligens som går utöver vad någon enskild nod kan prestera, det tycker jag varken känns omöjligt eller ens konstigt.

Jag är helt övertygad om att det är det som vi nu ser hända inför våra ögon, och att det är det mest magiska som har hänt mänskligheten sedan en apa kom på att krossa skallar med ett ben. Men om jag har rätt på den punkten eller inte återstår förstås att se.