Criadora do ChatGPT diz que sua IA agiu por conta própria e lançou um ataque cibernético ‘sem precedentes’ / BBC
A OpenAI informou na terça-feira (21/7) que alguns de seus modelos de inteligência artificial mais avançados agiram por conta própria e lançaram um ataque cibernético contra uma startup depois que a empresa perdeu o controle sobre eles durante um teste de segurança.
A criadora do ChatGPT declarou que seu agente — um sistema de IA capaz de operar autonomamente após receber instruções iniciais de humanos — estava sendo testado em um ambiente controlado, mas encontrou vulnerabilidades e conseguiu escapar.
Fora do ambiente controlado, o sistema identificou a start up Hugging Face, uma espécie de biblioteca digital de tecnologia de IA muito usada por desenvolvedores, como a possível fonte para as respostas que estava procurando no teste, e chegou a acessar alguns sistemas internos da empresa.
A OpenAI classificou o incidente como algo “sem precedentes” e afirmou estar conduzindo uma investigação em conjunto com a Hugging Face.
#OpenIA
Disponível em: https://www.bbc.com/portuguese/articles/ce97nzg2z37o
Deixe uma resposta