Default
Door Remote - 13 Jul 2026
Snelle vraag: wil je dat AI zo goed getraind is dat het echtgenoten (of vrouwen trouwens) kan helpen bij het plannen van de perfecte moord op hun echtgenoten?
Als onderbuikreactie voelt dat voor mij als een nee. Ik zou het niet eens een bijzonder moeilijke vraag vinden.
Maar Amerika kent veel verschillende perspectieven, en één zo'n perspectief werd dit weekend gedeeld door Comma AI-oprichter en oud-jailbreaker George Hotz.
Het bericht is een reactie op een aantal grootschalige AI-afstemmingsplannen, meest recentelijk het AI 2040: Plan A-beleidsdocument van het AI Futures Project. Dat artikel schetst een wereld waarin alle onderzoekers er gezamenlijk voor kiezen om de ontwikkeling van AI veertien jaar lang te vertragen in het belang van de mensheid. Maar natuurlijk is niet iedereen die het artikel leest het eens met de uitgangspunten of conclusie ervan.
In feite is Hotz het niet eens met het hele uitgangspunt dat AI-vooruitgang moet worden beheerd voor het collectieve belang. In zijn post betoogt hij dat het fast-take-off-scenario – het hypothetische scenario waarin AI snel bovenmenselijke vermogens verkrijgt – niet erg logisch is. (Ik ben het met veel van wat hij hier zegt eens!) Voor Hotz is de beste benadering van AI-afstemming en veiligheid het zich concentreren op lokaal gecontroleerde AI-modellen die nauw aansluiten bij de belangen van hun gebruikers.
Dat is een cool idee, vooral omdat het me eraan herinnert hoeveel van de huidige AI is gebouwd rond centraal beheerde services zoals Claude en ChatGPT. Er zijn infrastructuurgerelateerde redenen waarom AI-diensten zich op deze manier hebben ontwikkeld: het is duur om deze grote, ultramoderne modellen te hosten en de meeste mensen gebruiken ze de hele dag niet genoeg om echt persoonlijke AI te rechtvaardigen. Maar die factoren worden minder belangrijk naarmate de technologie zich ontwikkelt. Een deel van wat zo spannend was aan OpenClaw was deze experimentele, doe-het-zelf-aanpak, en het zou geweldig zijn om te zien dat meer AI-producten dat proberen te heroveren.
Maar Hotz is van nature een provocateur, dus daar stopt hij niet. Hij vergelijkt door de gebruiker afgestemde AI met een pistool(!), dat niet klaagt als je het gebruikt om je stiefmoeder te vermoorden. (Ik heb het gevoel dat hier andere regels tegen bestaan?) Een echt op elkaar afgestemde AI zou meth-lab-apparatuur kunnen bestellen bij Amazon Prime en je kunnen laten zien hoe je deze moet gebruiken als dat is wat je wilde en vroeg, zegt hij. (Nogmaals, ik denk niet dat AI hier de beperkende factor zou zijn.) Hotz zegt zelfs dat hij zou sterven om dit principe te verdedigen, hoewel het moeilijk voor te stellen is welke reeks gebeurtenissen daartoe zou leiden.
“We leven in een wereld met vrijheid of we leven niet”, schrijft Hotz. Als dat de opties zijn, klinkt de vrijheidswereld beter! Toch weet ik het niet.
Het draait niet alleen om vrijheid, toch? Elke structuur waarbij veel mensen betrokken zijn (samenlevingen, marktplaatsen, bedrijven, enz.) vereist het balanceren van aandelen, het binden van individuele behoeften in een netwerk van onderling afhankelijke voorkeuren en systemen van verantwoordelijkheid. En iedereen die technologieproducten voor de massamarkt inzet, zou waarschijnlijk aan dat netwerk als geheel moeten denken, wat betekent dat hij de belangen van de nog niet vermoorde echtgenoten en stiefouders van de wereld serieus moet nemen.
De vrijheid die Hotz ervaart is in werkelijkheid een ruimte van potentiële toekomsten die mogelijk wordt gemaakt door collectief ondernemen; die toekomst zou van de ene op de andere dag verdwijnen als we ons allemaal gingen gedragen als kleine, door AI aangedreven Napoleons. Zoals de meme zegt: we leven in een samenleving.
Het hebben van een lokale AI die bereid is om de zakenwereld voor mij op zich te nemen, klinkt wel cool! Ik kan niet wachten op een review-unit.
Als onderbuikreactie voelt dat voor mij als een nee. Ik zou het niet eens een bijzonder moeilijke vraag vinden.
Maar Amerika kent veel verschillende perspectieven, en één zo'n perspectief werd dit weekend gedeeld door Comma AI-oprichter en oud-jailbreaker George Hotz.
Het bericht is een reactie op een aantal grootschalige AI-afstemmingsplannen, meest recentelijk het AI 2040: Plan A-beleidsdocument van het AI Futures Project. Dat artikel schetst een wereld waarin alle onderzoekers er gezamenlijk voor kiezen om de ontwikkeling van AI veertien jaar lang te vertragen in het belang van de mensheid. Maar natuurlijk is niet iedereen die het artikel leest het eens met de uitgangspunten of conclusie ervan.
In feite is Hotz het niet eens met het hele uitgangspunt dat AI-vooruitgang moet worden beheerd voor het collectieve belang. In zijn post betoogt hij dat het fast-take-off-scenario – het hypothetische scenario waarin AI snel bovenmenselijke vermogens verkrijgt – niet erg logisch is. (Ik ben het met veel van wat hij hier zegt eens!) Voor Hotz is de beste benadering van AI-afstemming en veiligheid het zich concentreren op lokaal gecontroleerde AI-modellen die nauw aansluiten bij de belangen van hun gebruikers.
Dat is een cool idee, vooral omdat het me eraan herinnert hoeveel van de huidige AI is gebouwd rond centraal beheerde services zoals Claude en ChatGPT. Er zijn infrastructuurgerelateerde redenen waarom AI-diensten zich op deze manier hebben ontwikkeld: het is duur om deze grote, ultramoderne modellen te hosten en de meeste mensen gebruiken ze de hele dag niet genoeg om echt persoonlijke AI te rechtvaardigen. Maar die factoren worden minder belangrijk naarmate de technologie zich ontwikkelt. Een deel van wat zo spannend was aan OpenClaw was deze experimentele, doe-het-zelf-aanpak, en het zou geweldig zijn om te zien dat meer AI-producten dat proberen te heroveren.
Maar Hotz is van nature een provocateur, dus daar stopt hij niet. Hij vergelijkt door de gebruiker afgestemde AI met een pistool(!), dat niet klaagt als je het gebruikt om je stiefmoeder te vermoorden. (Ik heb het gevoel dat hier andere regels tegen bestaan?) Een echt op elkaar afgestemde AI zou meth-lab-apparatuur kunnen bestellen bij Amazon Prime en je kunnen laten zien hoe je deze moet gebruiken als dat is wat je wilde en vroeg, zegt hij. (Nogmaals, ik denk niet dat AI hier de beperkende factor zou zijn.) Hotz zegt zelfs dat hij zou sterven om dit principe te verdedigen, hoewel het moeilijk voor te stellen is welke reeks gebeurtenissen daartoe zou leiden.
“We leven in een wereld met vrijheid of we leven niet”, schrijft Hotz. Als dat de opties zijn, klinkt de vrijheidswereld beter! Toch weet ik het niet.
Het draait niet alleen om vrijheid, toch? Elke structuur waarbij veel mensen betrokken zijn (samenlevingen, marktplaatsen, bedrijven, enz.) vereist het balanceren van aandelen, het binden van individuele behoeften in een netwerk van onderling afhankelijke voorkeuren en systemen van verantwoordelijkheid. En iedereen die technologieproducten voor de massamarkt inzet, zou waarschijnlijk aan dat netwerk als geheel moeten denken, wat betekent dat hij de belangen van de nog niet vermoorde echtgenoten en stiefouders van de wereld serieus moet nemen.
De vrijheid die Hotz ervaart is in werkelijkheid een ruimte van potentiële toekomsten die mogelijk wordt gemaakt door collectief ondernemen; die toekomst zou van de ene op de andere dag verdwijnen als we ons allemaal gingen gedragen als kleine, door AI aangedreven Napoleons. Zoals de meme zegt: we leven in een samenleving.
Het hebben van een lokale AI die bereid is om de zakenwereld voor mij op zich te nemen, klinkt wel cool! Ik kan niet wachten op een review-unit.