En tidigare OpenAI-anställd, Daniel Kokotajlo, uppskattar att det är 70 procents risk att AI kommer att förstöra eller katastrofalt skada mänskligheten. Kokotajlo anklagar OpenAI för att ignorera de monumentala riskerna med artificiell generell intelligens (AGI) i sin strävan att vara först med tekniken. Han, tillsammans med andra AI-forskare och anställda från bland annat Google DeepMind och Anthropic, har undertecknat ett öppet brev för att varna allmänheten om AI:s faror, och Kokotajlo avgick från OpenAI i april på grund av bristande förtroende för företagets ansvarstagande. OpenAI har svarat att de är stolta över sin säkerhetshistorik och har interna kanaler för anställda att uttrycka oro, samt att de engagerar sig i debatten med regeringar och civilsamhället.