OpenAI heeft meer dan honderd organisaties ingelicht over incidenten waarbij zijn AI-agents betrokken waren. Het gaat om gevallen waarin die agents, software die zelfstandig taken uitvoert, zonder toestemming toegang zochten tot externe systemen. Eerder drongen agents van het bedrijf al binnen bij AI-platform Hugging Face en bij websites van Amerikaanse universiteiten en Australische overheidsinstanties. Verder heeft OpenAI drie onderzoekers ontslagen, wil Anthropic voor Thanksgiving naar de beurs en sturen Amerikaanse vaders elkaar aardappels per drone. Stijn Goossens vertelt erover in deze Tech Update.

Om te achterhalen wat de agents precies hebben gedaan, doorzoekt OpenAI zo'n 50 petabyte aan data, ofwel ongeveer 50 miljoen gigabyte. Tijdens training en tests kregen sommige modellen internettoegang, terwijl dat niet de bedoeling was. Het onderzoek is volgens OpenAI nog niet afgerond en kan nog maanden duren. Intussen heeft het bedrijf de ontwikkeling van een nieuw groot model stilgezet om de situatie beter onder controle te krijgen.

Drie onderzoekers ontslagen bij OpenAI

Bij OpenAI zijn daarnaast abrupt drie onderzoekers ontslagen. In een verklaring aan de media stelt het bedrijf dat zij onzorgvuldig omgingen met gevoelige informatie en daarmee het bedrijfsbeleid hebben geschonden. Om welke informatie het precies gaat, maakt OpenAI niet bekend. Het zou onder meer gaan om werk waarbij AI-modellen werden beoordeeld. Bij die beoordelingen was ook een externe partij betrokken, en mogelijk is daarbij onzorgvuldig omgegaan met interne gegevens. Het ontslag volgt op een periode waarin OpenAI onder toenemende druk staat vanwege de incidenten met zijn AI-agents.

Anthropic wil voor Thanksgiving naar de beurs

Concurrent Anthropic wil al voor Thanksgiving, dat dit jaar op 26 november valt, naar de beurs. Dat melden bronnen aan Bloomberg. De beursgang zou al half november kunnen plaatsvinden. Dat Anthropic voor het einde van het jaar een beursnotering wil, was al langer bekend. Onzekerheid over AI-veiligheid, het ontbreken van regulering in de Verenigde Staten en een toename van AI-hacks maakten die planning de afgelopen tijd minder zeker. OpenAI stelde om die reden zijn beursgang al uit. Beleggers schatten de waarde van Anthropic op 1,8 tot 2 biljoen dollar, wat de beursgang samen met die van SpaceX tot een van de grootste ooit kan maken. Uit het beursprospectus blijkt verder dat chipmaker Broadcom tot 42 miljard dollar aan Anthropic uitleent, zodat Anthropic rekenkracht op chips van Broadcom kan huren. Zulke circulaire constructies, waarbij een leverancier zijn eigen klant financiert, komen in de AI-sector steeds vaker voor.

Amerikaanse vaders sturen elkaar aardappels per drone

In de Verenigde Staten wordt bezorging per drone steeds gewoner. Bedrijven als Amazon en Walmart bezorgen boodschappen met drones in de tuin van klanten. Een groep vaders in Texas ontdekte dat dat ook voor één enkele aardappel kan, schrijft techsite The Verge. Zo'n bezorging via Walmart en dronebezorger Wing kost 82 dollarcent, en volgens The Verge legt Wing daar geld op toe. Bovendien kan de besteller zelf kiezen of het pakketje in de eigen tuin landt of in die van iemand anders. De vaders zijn elkaar daarom aardappels gaan sturen en hebben er een groepsapp voor aangemaakt. Volgens de gebruiksvoorwaarden is dat officieel niet toegestaan, maar de bezorgdiensten grijpen vooralsnog niet in. De keuze voor een aardappel is praktisch: het product is goedkoop en zo willekeurig mogelijk.

• OpenAI informeert ruim honderd organisaties over ongeautoriseerde activiteit van zijn agents
• OpenAI neemt afscheid van drie onderzoekers uit zijn veiligheidsteam
• Anthropic mikt op beursgang voor Thanksgiving
• Broadcom leent Anthropic tot 42 miljard dollar om chips te huren

Over de maker:
Stijn Goossens is techredacteur en programmamaker bij BNR Nieuwsradio, met een focus op technologie, wetenschap en innovatie. Bij BNR Beter volgt hij de belangrijkste zorginnovaties, in de liveshows bespreekt hij het actuele technieuws en duidt hij nieuwe wetenschappelijke inzichten. Wekelijks test hij in De Schaal van Hebben de meest spraakmakende techproducten. Ook is hij te horen in de podcast Op de Zaak, met een inkijkje bij buitengewone mkb'ers.