Um hacker roubou segredos de IA da OpenAI, e EUA se perguntam: a China poderia fazer isso?

No início do ano passado, um hacker obteve acesso aos sistemas internos de mensagens da empresa OpenAIfabricante de Bate-papoGPTe roubou detalhes sobre o design da tecnologia de inteligência artificial da empresa.

O hacker obteve detalhes das discussões em um fórum online onde funcionários falaram sobre as tecnologias mais recentes da OpenAI, segundo duas pessoas familiarizadas com o incidente, mas não entrou nos sistemas onde a empresa abriga e constrói sua IA.

Os executivos da OpenAI revelaram o incidente aos funcionários durante uma reunião geral nos escritórios da empresa em São Francisco em abril de 2023, segundo essas pessoas, que discutiram informações confidenciais sobre a empresa sob condição de anonimato.

Mas os executivos decidiram não divulgar a notícia publicamente porque nenhuma informação sobre clientes ou parceiros foi roubada, disseram as duas pessoas.

Os executivos não consideraram o incidente uma ameaça à segurança nacional porque acreditavam que o hacker era um indivíduo privado sem ligações conhecidas com um governo estrangeiro. A empresa não informou o FBI ou qualquer outra agência de aplicação da lei.

Para alguns funcionários da OpenAI, a notícia levantou receios de que adversários estrangeiros como a China pudessem roubar tecnologia de IA que, embora seja agora principalmente uma ferramenta de trabalho e investigação, poderia acabar por colocar em risco a segurança nacional dos EUA.

Também levantou questões sobre a seriedade com que a OpenAI estava tratando a segurança e as fraturas expostas dentro da empresa sobre os riscos da IA.

Após a violação, Leopold Aschenbrenner, gerente de programa técnico da OpenAI focado em garantir que futuras tecnologias de IA não causem danos graves, enviou um memorando ao conselho de administração da OpenAI, argumentando que a empresa não estava fazendo o suficiente para impedir o governo chinês e outros adversários estrangeiros roubem os seus segredos.

Aschenbrenner disse que a OpenAI o demitiu na primavera deste ano por vazar outras informações fora da empresa e argumentou que sua demissão teve motivação política. Ele aludiu à violação em um podcast recente, mas os detalhes do incidente não foram relatados anteriormente.

Segundo ele, a segurança da OpenAI não era forte o suficiente para proteger contra o roubo de segredos importantes caso agentes estrangeiros se infiltrassem na empresa.

“Agradecemos as preocupações que Leopold levantou enquanto estava na OpenAI, e isso não levou à sua separação”, disse uma porta-voz da OpenAI, Liz Bourgeois. Referindo-se aos esforços da empresa para criar inteligência artificial geral, uma máquina capaz de fazer tudo o que o cérebro humano pode fazer.

“Embora compartilhemos seu compromisso com a criação de inteligência artificial geral (AGI) segura, discordamos de muitas das afirmações que ele fez desde então sobre nosso trabalho”, acrescentou ela.

Os temores de que um hacker de uma empresa de tecnologia dos EUA possa ter ligações com a China não são irracionais. No mês passado, Brad Smith, presidente da Microsoft, testemunhou no Capitólio sobre como os hackers chineses usaram os sistemas da gigante tecnológica para lançar um amplo ataque às redes do governo federal.

No entanto, de acordo com a lei federal e da Califórnia, a OpenAI não pode impedir que as pessoas trabalhem na empresa devido à sua nacionalidade, e os investigadores políticos disseram que impedir talentos estrangeiros de projetos nos EUA poderia impedir significativamente o progresso. de IA nos Estados Unidos.

“Precisamos das melhores e mais brilhantes mentes trabalhando nesta tecnologia”, disse Matt Knight, chefe de segurança da OpenAI, em entrevista ao The New York Times. “Isso acarreta alguns riscos e precisamos descobrir quais são.”

(O Times processou a OpenAI e sua parceira Microsoft, alegando violação de direitos autorais de conteúdo de notícias relacionado a sistemas de IA).

A OpenAI não é a única empresa que cria sistemas cada vez mais poderosos usando tecnologia de IA em rápida melhoria. Alguns deles – notadamente o proprietário do Facebook e do Instagram, Meta – estão compartilhando livremente seus designs com o resto do mundo como software de código aberto.

Eles acreditam que os perigos representados pelas atuais tecnologias de IA são pequenos e que a partilha de código permite que engenheiros e investigadores de toda a indústria identifiquem e resolvam problemas.

Os atuais sistemas de IA podem ajudar a espalhar a desinformação online, incluindo textos, imagens fixas e, cada vez mais, vídeos. Eles também estão começando a eliminar alguns empregos.

Empresas como a OpenAI e os seus concorrentes Anthropic e Google adicionam proteções às suas aplicações de IA antes de as oferecer a indivíduos e empresas, na esperança de evitar que as pessoas utilizem as aplicações para espalhar desinformação ou causar outros problemas.

Mas não há muitas evidências de que as atuais tecnologias de IA representem um risco significativo para a segurança nacional. Estudos conduzidos pela OpenAI, Anthropic e outros no ano passado mostraram que a IA não era significativamente mais perigosa do que os motores de busca.

Daniela Amodei, cofundadora da Anthropic e presidente da empresa, disse que a sua mais recente tecnologia de IA não representaria um grande risco se os seus designs fossem roubados ou partilhados livremente com terceiros.

Se pertencesse a outra pessoa, isso poderia ser extremamente prejudicial para uma grande parte da sociedade? Nossa resposta é: “Não, provavelmente não”, disse ela ao Times no mês passado. “Isso poderia acelerar algo para um mau ator no futuro? Talvez. Isso é realmente especulativo.”

Ainda assim, investigadores e executivos de tecnologia há muito que temem que a IA possa um dia alimentar a criação de novas armas biológicas ou ajudar a hackear sistemas informáticos governamentais. Alguns até acreditam que isso poderia destruir a humanidade.