Een AI-crisis kan jouw organisatie in no time hard raken, zelfs als je er niets mee te maken hebt. Nieuw wetenschappelijk onderzoek laat zien hoe communicatieprofessionals weerbaar worden als AI uit de bocht vliegt.
Anthropic, het bedrijf achter de AI-tool Claude, waarschuwde recent voor de gevaren van zijn eigen product. Het nieuwe Claude Mythos, speciaal ontwikkeld om kwetsbaarheden in software te ontdekken, zou te krachtig zijn om los te laten. Toch koos Anthropic ervoor dit binnen kaders te doen. Essentiële softwarepartijen zoals Microsoft, Google en de Linux Foundation kregen al toegang tot Mythos.
Waarschuwen voor je eigen product gebeurt vaker bij AI-ontwikkelaars. Zo zou OpenAI-oprichter Sam Altman een rugzak bij zich dragen waarmee hij de datacenters kan uitzetten als ChatGPT een eigen leven gaat leiden. Ook waarschuwde Anthropic-baas Dario Amodei begin dit jaar dat we wakker moeten worden voor de risico’s die AI met zich meebrengt. Omdat die risico’s bijna werkelijkheid zijn.
Terechte waarschuwingen, zou je denken. En toch gaan de techbro’s onverminderd door met hun AI-ontwikkeling. Bang om de boot te missen. Zo wordt elke waarschuwing een manier om buzz te creëren. En belangrijker nog: een manier om de verantwoordelijkheid af te schuiven. Wij, de CEO’s en ontwikkelaars van AI-bedrijven, hebben jullie gewaarschuwd.
Wie is verantwoordelijk als een AI hallucineert?
Wie acht het publiek verantwoordelijk als een large language model (LLM) uit de bocht vliegt, bijvoorbeeld met hallucinatie of discriminatie? Die vraag stelde Lotte Willemsen, bijzonder hoogleraar Strategische Communicatie aan de Universiteit van Amsterdam, bij de start van de Onder Profs-bijeenkomst van Logeions Centrum Strategische Communicatie.
Is dat degene die de prompt schrijft? Degene die de AI heeft gevoed met data? Of toch de CEO van het bedrijf waarvan de AI het product is? En doet het er eigenlijk toe wie er verantwoordelijk is als een AI-crisis afstraalt op jouw organisatie, op je partners, je klanten en de keten? Samen met UvA-onderzoekers Theo Araujo en Floor Fiers ondervroeg Willemsen 1991 Nederlanders over dit onderwerp. De gebruiker is de schuldige, zo is het oordeel van de meeste van hen. Bij problemen met AI wijzen mensen vooral naar diegene die de tool gebruikt en minder naar de ontwikkelaars ervan. Voor organisaties betekent dit dat zij verantwoordelijk gehouden kunnen worden wanneer een LLM hallucineert of discrimineert.
Dat betekent dat je je moet voorbereiden. Want een AI-crisis kan razendsnel overslaan op jouw organisatie, zo laat professor Yijing Wang van de Rotterdamse Erasmus Universiteit (de andere spreker tijdens Onder Profs) met haar nieuwste onderzoek zien. Of je nu verantwoordelijk bent of niet: wat begint bij één organisatie, kan overslaan naar andere. Zelfs als je er niets mee te maken hebt, kun je beschuldigd worden van onethische AI-praktijken. Guilty by association.
Zo ziet voorbereiding op een AI-crisis eruit
Hoe wapen je je tegen een crisis waarmee je niets te maken hebt? Volgens Yijing Wang vereisen AI-crises readiness, vergelijkbaar met de manier waarop militairen zich voorbereiden op crisissituaties. Hoe dat er in de praktijk kan uitzien, kwam tot stand tijdens een levendige discussie bij Onder Profs. En leverde een lijst met interessante vereisten op die communicatieprofessionals in hun organisatie zouden moeten borgen om weerbaar te zijn tegen AI-crises. Enkele voorbeelden:
- Mensen zouden opgeleid moeten zijn om kritisch en moreel te denken en de juiste vragen te stellen.
- Mensen moeten in staat zijn de antwoorden die AI geeft te toetsen.
- Mensen moeten weten hoe AI werkt. AI-geletterdheid is cruciaal, net als het oefenen met scenario’s.\
Stuk voor stuk legitieme randvoorwaarden die nodig zijn om een te verwachten AI-crisis het hoofd te bieden. Maar wat als je je niet kúnt voorbereiden? Wanneer een zogeheten zwarte zwanen-probleem je treft? Ook dan dien je ready te zijn.
AI-crises vereisen antifragiel handelen
Het type readiness dat Yijing Wang omschrijft, doet mij denken aan het boek Antifragiel van Nassim Taleb. Daarin betoogt hij dat deze tijd vraagt om meer dan voorkomen dat dingen niet stuk gaan. Deze tijd vraagt om dingen die antifragiel zijn. Want wat antifragiel is, heeft baat bij wanorde en chaos. Dingen die antifragiel zijn gaan niet stuk bij tegenwind (fragiel), maar houden ook geen stand (robuust). In plaats daarvan worden ze juist beter wanneer dingen misgaan.
Het mooiste voorbeeld van antifragiliteit is misschien wel de evolutietheorie. De soorten die zich het beste weten aan te passen, houden stand en hebben een competitief voordeel. Neem de reuzensequoia of mammoetboom in het regelmatig door branden geteisterde Californië. De zaaddragende kegels van deze bomen hebben de hitte van een bosbrand nodig om te kunnen openen. Juist op het moment dat de bodem is vrijgemaakt door de brand, landen zaden van de reuzensequoia in de voedzame aarde. En start een volgende generatie met groeien.
Ook in AI-crises zullen de organisaties die het beste zijn aangepast de crises het beste doorstaan. Enerzijds doordat zij goed zijn voorbereid, anderzijds doordat ze wendbaar blijven. Zelfs als zij niet verantwoordelijk zijn voor het ontstaan van de crisis zal hun lerend vermogen ertoe leiden dat ze sterker staan. Hoe dat er exact kan uitzien, lijkt me voer voor een nieuwe discussie.
——
Over de auteur
Thijs Ros is PR-adviseur & contentspecialist bij HvdM. Het Haagse communicatieadviesbureau is partner van Centrum voor Strategische Communicatie (CSC).
——
CSC: brug tussen wetenschap en praktijk
Het Centrum Strategische Communicatie (CSC) van Logeion verbindt communicatiewetenschap met de praktijk van het vak. Nieuwe inzichten uit onderzoek helpen communicatieprofessionals scherper te adviseren en strategischer te handelen. Dat gebeurt onder meer twee keer per jaar tijdens Onder Profs: een kennisevent voor de vrienden en partners van CSC.
