Weer een OpenAI-medewerker vertrekt met waarschuwing: 'parade van oud-collega's' groeit

Opnieuw vertrek bij OpenAI om zorgen over veiligheid

David Robinson, die bij OpenAI een rol vervulde op het gebied van veiligheid, heeft vorige week zijn ontslag bekendgemaakt. Daarmee voegt hij zich bij wat hijzelf omschrijft als een "parade of former colleagues": een reeks medewerkers van AI-bedrijven die hun functie hebben opgegeven vanwege zorgen over de technologie of de manier waarop deze wordt ingezet. Dat meldt Fast Company in een overzichtsartikel over AI-insiders die publiekelijk aan de bel trekken.

Exacte details over Robinsons functietitel en de precieze ontslagdatum zijn niet volledig bevestigd. Wel is duidelijk dat zijn vertrek aansluit bij een patroon dat de afgelopen jaren vaker is waargenomen binnen de sector.

Kritiek op 'vallen en opstaan'-aanpak

Na zijn vertrek schreef Robinson een essay voor The Atlantic waarin hij stelt dat de 'trial and error'-benadering die AI-bedrijven hanteren bij de ontwikkeling en uitrol van hun technologie, moet stoppen. Hiermee doelt hij op de praktijk waarbij AI-systemen worden gelanceerd en bijgesteld op basis van problemen die zich pas na publicatie openbaren, in plaats van risico's vooraf grondig te doorgronden. Titel en publicatiedatum van het essay zijn niet nader gespecificeerd.

Een terugkerend patroon in de sector

Robinson is niet de eerste die zijn functie bij een groot AI-bedrijf neerlegt met een publieke waarschuwing. Fast Company noemt ook Ed Newton-Rex, die in november 2023 zijn functie opgaf vanwege zorgen over auteursrecht en het gebruik van trainingsdata door AI-modellen. Volgens algemeen beschikbare informatie was Newton-Rex destijds verbonden aan Stability AI, al wordt dit niet expliciet herhaald in het aangeleverde materiaal.

De volledige lijst van insiders die Fast Company in het artikel noemt, is niet compleet beschikbaar. Vermoedelijk bevat deze meerdere namen van (oud-)medewerkers van grote AI-bedrijven zoals OpenAI, Google DeepMind en Anthropic. In 2024 vertrokken bijvoorbeeld leden van OpenAI's zogeheten Superalignment-team met vergelijkbare kritiek op de balans tussen snelle productontwikkeling en veiligheidswaarborgen, al is niet bevestigd of zij in dit specifieke artikel worden genoemd.

Vragen over governance blijven

Het vertrek van Robinson voedt de bredere discussie over interne governance bij AI-bedrijven: hoeveel ruimte is er voor zorgvuldige risicobeoordeling wanneer commerciële druk en concurrentie hoog zijn? Een reactie van OpenAI op het vertrek van Robinson is niet bekend.

Vooruitblik

De groeiende reeks vertrekkende medewerkers die publiekelijk kritiek uiten, wijst op aanhoudende spanningen binnen de AI-sector tussen snelheid van ontwikkeling en zorgvuldigheid. Voor een volledig beeld van alle genoemde insiders en hun specifieke kritiekpunten is nadere berichtgeving nodig; Fast Company en The Atlantic blijven de centrale bronnen voor verdere ontwikkelingen rond dit onderwerp.