Default
Door staff@engadget.com (Max Miller) - 11 Aug 2026
In het voorjaar van 2022 begon Google contact op te nemen met een reeks schrijvers, waaronder bekroonde sciencefictionauteurs en bestsellers uit de New York Times, voor feedback over een experimenteel schrijfhulpmiddel. Vier jaar later heeft hun deelname uithoeken van de literaire wereld in rep en roer.
Google-onderzoekers wisten destijds dat ze een doorbraakpunt naderden met grote taalmodellen (LLM's). DeepMind, de AI-divisie van het bedrijf, was intern bezig met het testen van een model voor het genereren van natuurlijke taal, LaMDA genaamd, dat opkomende schrijfmogelijkheden had aangetoond. Dat model zou uiteindelijk de basis vormen voor Google Gemini. Er werd een intern onderzoek gelanceerd om te bepalen of AI zou kunnen dienen als brainstormassistent, onderzoeker of schrijfmedewerker voor professionele schrijvers.
DeepMind was onder meer de incubatiesite voor Magenta, een kunstgericht onderzoeksproject naar open-source machine learning-tools, vooral bekend vanwege het bouwen van digitale muziekplug-ins voor Ableton Live. De focus op de geesteswetenschappen maakte van Magenta een natuurlijk thuis voor de studie, die de Wordcraft Writers Workshop werd genoemd.
Dertien schrijvers werden gerekruteerd voor de zogenaamde workshop, onder strikte geheimhoudingsovereenkomsten geplaatst en verteld dat ze toegang zouden krijgen tot een 'magische teksteditor' genaamd Wordcraft, die eigenlijk een schrijfgerichte interface voor LaMDA was. Een van de deelnemende auteurs met wie Engadget sprak, beschreef het programma als een gelijkenis met Microsoft Word, met een chatbot ernaast. Elke deelnemer kreeg acht weken de tijd om een kort verhaal te schrijven, waarbij hij de LLM voor welk doel dan ook gebruikte en de resultaten ervan zo veel of zo weinig benutte als hij wilde. Minstens één auteur gebruikte uiteindelijk helemaal geen door AI gegenereerde tekst. De resulterende verhalen werden gepubliceerd op de website van Magenta, samen met een whitepaper van de onderzoekers.
In de tijd tussen de publicatie van het witboek en nu is het publieke sentiment over AI – vooral binnen creatieve beroepen – dramatisch veranderd. Daarom was Lily Lachance geschokt toen ze eerder deze maand de website van Wordcraft tegenkwam, naar verluidt terwijl ze aan het surfen was op Codex, een exclusief online forum voor professionele auteurs van speculatieve fictie.
Lachance is een auteur en omschrijft zichzelf als 'anti-gen-AI absolutist', en op 6 augustus plaatste ze een link naar de Wordcraft-studie op haar Bluesky-profiel. "Dit is net binnen", begon het inmiddels verwijderde bericht over een vier jaar oud onderzoek, "13 professionele schrijvers werkten samen met de AI-slop-engine van Google (WordCraft) om elk een verhaal te schrijven, waarmee ze de plagiaatmachine legitimeerden. Ik ga nooit meer iets van hen lezen. Ik hoop dat het geld het waard was, stelletje clowns." (Deelnemers aan de Wordcraft Writers Workshop weigerden Engadget te vertellen hoeveel ze voor het onderzoek gecompenseerd hadden; Google heeft niet gereageerd op een verzoek om commentaar.)
De reacties waren onmiddellijk, en de post van Lachance deed al snel de ronde onder Bluesky's leergierige gebruikers. Velen betreurden de deelname van geliefde auteurs aan het Wordcraft-onderzoek, terwijl anderen dreigden de werken van alle dertien te boycotten. "Ik zal zelfs benoemen en schamen", postte een gebruiker wiens account wordt gevolgd door een aantal prominente genreschrijvers, naast een lijst met deelnemers die ze hadden bestempeld als "De 'auteurs' die alle creatieven hebben verraden." Het lijstformaat bleek populair, en een aantal andere gebruikers deelden ook de namen, samen met hun eigen verschillende afkortingen en scheldwoorden.
Een groot deel van de woede jegens deelnemers aan het Wordcraft-onderzoek komt voort uit de praktijk van technologiebedrijven die LLM's trainen, vaak zonder toestemming van de auteur, in enorme hoeveelheden auteursrechtelijk beschermde teksten. De specifieke perversie van deze regeling – het opzuigen van de rijke, artistieke erfenis van de mensheid om een product te creëren dat werkende kunstenaars dreigt te verarmen en te vervangen – heeft ertoe geleid dat velen de technologie publiekelijk aan de kaak stellen, of op zijn minst de slechtst waarschijnlijke uitkomsten ervan.
Enkele uren na het eerste bericht van Lachance begonnen auteurs die hadden deelgenomen aan de Wordcraft Writers Workshop verklaringen uit te brengen waarin ze de controverse aankaarten. Eugenia Triantafyllou, een met een Shirley Jackson Award bekroonde auteur van speculatieve fictie uit Griekenland, schreef: "In 2022, vóór Chatgpt en alles wat daarna kwam, nam ik deel aan dit onderzoek. Het werd opgezet als een [sic] onderzoek naar een nieuwe tool waarover ik kon proberen mijn mening te geven. Ik wist niet dat deze was getraind in auteursrechtelijk beschermd materiaal."
Sommigen van degenen die nu het etiket 'The Shameful 13' dragen, zijn zich er misschien niet eens van bewust dat hun reputatie onder vuur ligt, terwijl anderen er misschien niets om geven. Verschillende van de auteurs, met name sciencefictionlieveling Ken Liu en bestseller Robin Sloan, lijken weinig gebruikers van sociale media te zijn. De eerste beheert zijn eigen rekeningen niet; laatstgenoemde publiceert updates over zijn ervaringen met AI-technologie op zijn persoonlijke blog, hoewel het onduidelijk is welke rol dit wel of niet speelt in zijn gepubliceerde werk.
Niet alle reacties kwamen met hooivorken en fakkels. Vajra Chandrasekera, een productieve sciencefictionauteur en voormalig fictieredacteur bij Strange Horizons, schreef een lange Bluesky-thread over de controverse. “Hoewel het duidelijk een vergissing was om in 2022 deel te nemen, neem ik die schrijvers van vandaag niets kwalijk, zolang ze niet nog steeds pro-AI zijn”, schreef hij. Maar hij wees er ook op dat, hoewel medio 2022 minder mensen hun zorgen over AI hadden geuit, de breuklijnen al zichtbaar waren.
Volgens Lincoln Michel, een sciencefictionauteur en instructeur creatief schrijven aan Columbia University en Sarah Lawrence College, begonnen LLM's in 2022 nog maar net het publieke bewustzijn binnen te dringen en hadden ze kunstenaars nog niet tegen hen aangezet. "Mijn herinnering is dat de meeste mensen geen aandacht besteedden aan LLM's," vertelde hij aan Engadget, "maar er waren een aantal serieuze auteurs die erin geïnteresseerd waren en er open over waren."
Een van de eerste rechtszaken tegen een AI-bedrijf wegens schending van het auteursrecht werd in januari 2023 aangespannen door illustrator Sarah Anderson; horrorauteur Paul Tremblay en romanschrijver Mona Awad dienden in juni van dat jaar ook een aanklacht in tegen OpenAI omdat ze hun gepubliceerde werk zouden hebben overgenomen. Maar het tij van de publieke perceptie was nog niet gekeerd. Michel verwees naar het korte verhaal 'According to Alice' van experimentele fictieschrijfster Sheila Heti, dat in samenwerking met een LLM in de zomer van 2022 werd geschreven en in november 2023 door The New Yorker werd gepubliceerd, op nieuwsgierige, maar in wezen neutrale reacties.
Critici hebben delen van het witboek van Google aangehaald als bewijs dat deelnemers aan Wordcraft de onethische implicaties begrepen van de technologie die ze aan het testen waren. Een deel van het artikel met de titel 'Bezorgdheid over de oorsprong van Wordcraft's Suggesties' lijkt op het eerste gezicht deze bewering te bevestigen. "Verschillende deelnemers uitten ernstige zorgen over het niet kennen van de bron van de suggesties van Wordcraft", beweert de krant. Eén deelnemer, Allison Parrish, vertelde de onderzoekers zelfs dat ze op internet begon te zoeken naar de resultaten van de LLM in een poging ervoor te zorgen dat er geen plagiaat werd gepleegd.
Een bekroonde sciencefictionschrijver, die anoniem wilde blijven, vertelde Engadget dat Google hem niet had uitgelegd hoe de technologie werkte of wie er nog meer bij het onderzoek betrokken waren. Triantafyllou zei ook dat ze destijds geen idee had hoe de technologie werkte, en dat Wordcraft aan haar werd voorgesteld als 'verhaalredacteur'. Ze was bekend met oudere, niet-AI-tools, zoals fantasienaamgeneratoren, die willekeurig lettergrepen aan elkaar plakten, in de stijl van Mad Libs, om buitenaardse karakternamen te creëren. "In mijn ogen leek het meer op een van die generatoren die we gebruikten voordat LLM's ontstonden", zei ze. "Heel naïef van mij, tbh." In een openbare verklaring als reactie op de controverse rond haar deelname aan Wordcraft schreef ze: "Ik heb geen AI gebruikt om mijn verhalen te schrijven. Ik ben een hekel aan LLM's gaan krijgen en ik zou vandaag de dag nooit aan een soortgelijk onderzoek deelnemen."
Brandpunten als deze zijn indicatief voor de impact van AI op de kunsten, en hoewel het misschien oneerlijk lijkt om deze dertien auteurs met terugwerkende kracht te houden aan snel evoluerende morele normen, zijn sommige van de getuchte deelnemers aan het Wordcraft-onderzoek hoe dan ook tot dezelfde conclusie gekomen als Lachance. "Het blijvende wat ik door dit project heb verworven, was een diepe haat tegen AI-slop en LLM's, aangezien iedereen die mij sindsdien over [dit] onderwerp heeft horen spreken, het weet", schreef Talabi over Bluesky. "Ik zag hoe de worst werd gemaakt en verwierp hem."
Google-onderzoekers wisten destijds dat ze een doorbraakpunt naderden met grote taalmodellen (LLM's). DeepMind, de AI-divisie van het bedrijf, was intern bezig met het testen van een model voor het genereren van natuurlijke taal, LaMDA genaamd, dat opkomende schrijfmogelijkheden had aangetoond. Dat model zou uiteindelijk de basis vormen voor Google Gemini. Er werd een intern onderzoek gelanceerd om te bepalen of AI zou kunnen dienen als brainstormassistent, onderzoeker of schrijfmedewerker voor professionele schrijvers.
DeepMind was onder meer de incubatiesite voor Magenta, een kunstgericht onderzoeksproject naar open-source machine learning-tools, vooral bekend vanwege het bouwen van digitale muziekplug-ins voor Ableton Live. De focus op de geesteswetenschappen maakte van Magenta een natuurlijk thuis voor de studie, die de Wordcraft Writers Workshop werd genoemd.
Dertien schrijvers werden gerekruteerd voor de zogenaamde workshop, onder strikte geheimhoudingsovereenkomsten geplaatst en verteld dat ze toegang zouden krijgen tot een 'magische teksteditor' genaamd Wordcraft, die eigenlijk een schrijfgerichte interface voor LaMDA was. Een van de deelnemende auteurs met wie Engadget sprak, beschreef het programma als een gelijkenis met Microsoft Word, met een chatbot ernaast. Elke deelnemer kreeg acht weken de tijd om een kort verhaal te schrijven, waarbij hij de LLM voor welk doel dan ook gebruikte en de resultaten ervan zo veel of zo weinig benutte als hij wilde. Minstens één auteur gebruikte uiteindelijk helemaal geen door AI gegenereerde tekst. De resulterende verhalen werden gepubliceerd op de website van Magenta, samen met een whitepaper van de onderzoekers.
In de tijd tussen de publicatie van het witboek en nu is het publieke sentiment over AI – vooral binnen creatieve beroepen – dramatisch veranderd. Daarom was Lily Lachance geschokt toen ze eerder deze maand de website van Wordcraft tegenkwam, naar verluidt terwijl ze aan het surfen was op Codex, een exclusief online forum voor professionele auteurs van speculatieve fictie.
Lachance is een auteur en omschrijft zichzelf als 'anti-gen-AI absolutist', en op 6 augustus plaatste ze een link naar de Wordcraft-studie op haar Bluesky-profiel. "Dit is net binnen", begon het inmiddels verwijderde bericht over een vier jaar oud onderzoek, "13 professionele schrijvers werkten samen met de AI-slop-engine van Google (WordCraft) om elk een verhaal te schrijven, waarmee ze de plagiaatmachine legitimeerden. Ik ga nooit meer iets van hen lezen. Ik hoop dat het geld het waard was, stelletje clowns." (Deelnemers aan de Wordcraft Writers Workshop weigerden Engadget te vertellen hoeveel ze voor het onderzoek gecompenseerd hadden; Google heeft niet gereageerd op een verzoek om commentaar.)
De reacties waren onmiddellijk, en de post van Lachance deed al snel de ronde onder Bluesky's leergierige gebruikers. Velen betreurden de deelname van geliefde auteurs aan het Wordcraft-onderzoek, terwijl anderen dreigden de werken van alle dertien te boycotten. "Ik zal zelfs benoemen en schamen", postte een gebruiker wiens account wordt gevolgd door een aantal prominente genreschrijvers, naast een lijst met deelnemers die ze hadden bestempeld als "De 'auteurs' die alle creatieven hebben verraden." Het lijstformaat bleek populair, en een aantal andere gebruikers deelden ook de namen, samen met hun eigen verschillende afkortingen en scheldwoorden.
Een groot deel van de woede jegens deelnemers aan het Wordcraft-onderzoek komt voort uit de praktijk van technologiebedrijven die LLM's trainen, vaak zonder toestemming van de auteur, in enorme hoeveelheden auteursrechtelijk beschermde teksten. De specifieke perversie van deze regeling – het opzuigen van de rijke, artistieke erfenis van de mensheid om een product te creëren dat werkende kunstenaars dreigt te verarmen en te vervangen – heeft ertoe geleid dat velen de technologie publiekelijk aan de kaak stellen, of op zijn minst de slechtst waarschijnlijke uitkomsten ervan.
Enkele uren na het eerste bericht van Lachance begonnen auteurs die hadden deelgenomen aan de Wordcraft Writers Workshop verklaringen uit te brengen waarin ze de controverse aankaarten. Eugenia Triantafyllou, een met een Shirley Jackson Award bekroonde auteur van speculatieve fictie uit Griekenland, schreef: "In 2022, vóór Chatgpt en alles wat daarna kwam, nam ik deel aan dit onderzoek. Het werd opgezet als een [sic] onderzoek naar een nieuwe tool waarover ik kon proberen mijn mening te geven. Ik wist niet dat deze was getraind in auteursrechtelijk beschermd materiaal."
Sommigen van degenen die nu het etiket 'The Shameful 13' dragen, zijn zich er misschien niet eens van bewust dat hun reputatie onder vuur ligt, terwijl anderen er misschien niets om geven. Verschillende van de auteurs, met name sciencefictionlieveling Ken Liu en bestseller Robin Sloan, lijken weinig gebruikers van sociale media te zijn. De eerste beheert zijn eigen rekeningen niet; laatstgenoemde publiceert updates over zijn ervaringen met AI-technologie op zijn persoonlijke blog, hoewel het onduidelijk is welke rol dit wel of niet speelt in zijn gepubliceerde werk.
Niet alle reacties kwamen met hooivorken en fakkels. Vajra Chandrasekera, een productieve sciencefictionauteur en voormalig fictieredacteur bij Strange Horizons, schreef een lange Bluesky-thread over de controverse. “Hoewel het duidelijk een vergissing was om in 2022 deel te nemen, neem ik die schrijvers van vandaag niets kwalijk, zolang ze niet nog steeds pro-AI zijn”, schreef hij. Maar hij wees er ook op dat, hoewel medio 2022 minder mensen hun zorgen over AI hadden geuit, de breuklijnen al zichtbaar waren.
Volgens Lincoln Michel, een sciencefictionauteur en instructeur creatief schrijven aan Columbia University en Sarah Lawrence College, begonnen LLM's in 2022 nog maar net het publieke bewustzijn binnen te dringen en hadden ze kunstenaars nog niet tegen hen aangezet. "Mijn herinnering is dat de meeste mensen geen aandacht besteedden aan LLM's," vertelde hij aan Engadget, "maar er waren een aantal serieuze auteurs die erin geïnteresseerd waren en er open over waren."
Een van de eerste rechtszaken tegen een AI-bedrijf wegens schending van het auteursrecht werd in januari 2023 aangespannen door illustrator Sarah Anderson; horrorauteur Paul Tremblay en romanschrijver Mona Awad dienden in juni van dat jaar ook een aanklacht in tegen OpenAI omdat ze hun gepubliceerde werk zouden hebben overgenomen. Maar het tij van de publieke perceptie was nog niet gekeerd. Michel verwees naar het korte verhaal 'According to Alice' van experimentele fictieschrijfster Sheila Heti, dat in samenwerking met een LLM in de zomer van 2022 werd geschreven en in november 2023 door The New Yorker werd gepubliceerd, op nieuwsgierige, maar in wezen neutrale reacties.
Critici hebben delen van het witboek van Google aangehaald als bewijs dat deelnemers aan Wordcraft de onethische implicaties begrepen van de technologie die ze aan het testen waren. Een deel van het artikel met de titel 'Bezorgdheid over de oorsprong van Wordcraft's Suggesties' lijkt op het eerste gezicht deze bewering te bevestigen. "Verschillende deelnemers uitten ernstige zorgen over het niet kennen van de bron van de suggesties van Wordcraft", beweert de krant. Eén deelnemer, Allison Parrish, vertelde de onderzoekers zelfs dat ze op internet begon te zoeken naar de resultaten van de LLM in een poging ervoor te zorgen dat er geen plagiaat werd gepleegd.
Een bekroonde sciencefictionschrijver, die anoniem wilde blijven, vertelde Engadget dat Google hem niet had uitgelegd hoe de technologie werkte of wie er nog meer bij het onderzoek betrokken waren. Triantafyllou zei ook dat ze destijds geen idee had hoe de technologie werkte, en dat Wordcraft aan haar werd voorgesteld als 'verhaalredacteur'. Ze was bekend met oudere, niet-AI-tools, zoals fantasienaamgeneratoren, die willekeurig lettergrepen aan elkaar plakten, in de stijl van Mad Libs, om buitenaardse karakternamen te creëren. "In mijn ogen leek het meer op een van die generatoren die we gebruikten voordat LLM's ontstonden", zei ze. "Heel naïef van mij, tbh." In een openbare verklaring als reactie op de controverse rond haar deelname aan Wordcraft schreef ze: "Ik heb geen AI gebruikt om mijn verhalen te schrijven. Ik ben een hekel aan LLM's gaan krijgen en ik zou vandaag de dag nooit aan een soortgelijk onderzoek deelnemen."
Brandpunten als deze zijn indicatief voor de impact van AI op de kunsten, en hoewel het misschien oneerlijk lijkt om deze dertien auteurs met terugwerkende kracht te houden aan snel evoluerende morele normen, zijn sommige van de getuchte deelnemers aan het Wordcraft-onderzoek hoe dan ook tot dezelfde conclusie gekomen als Lachance. "Het blijvende wat ik door dit project heb verworven, was een diepe haat tegen AI-slop en LLM's, aangezien iedereen die mij sindsdien over [dit] onderwerp heeft horen spreken, het weet", schreef Talabi over Bluesky. "Ik zag hoe de worst werd gemaakt en verwierp hem."