A OpenAI anunciou que deixará de permitir que os seus modelos de Inteligência Artificial mais avançados tenham acesso à internet, destacando que será usada uma versão simulada durante o processo de treinamento desses modelos.
A decisão foi oficializada na última sexta-feira, dia 23, e surge depois de os modelos em treinamento interno pela OpenAI mostrarem que estavam conseguindo contornar as proteções criadas pela empresa de tecnologia.
“Com base no atual estágio da pesquisa de alinhamento, monitoramento de sistemas e segurança da infraestrutura da internet, acreditamos que a abordagem responsável é conduzir o treinamento de um modelo de fronteira sem acesso à internet”, diz o comunicado publicado pela OpenAI em seu blog oficial.
A OpenAI explica ainda que a decisão foi tomada depois de, em 20 de setembro, um dos seus modelos de fronteira ter explorado uma falha de configuração no acesso à internet. A empresa decidiu então suspender o treinamento durante o restante do mês, chegando assim à solução que anuncia agora para impedir que os seus modelos de Inteligência Artificial saiam do controle.
Como lembra o site TechCrunch, a OpenAI já alertou mais de 100 organizações diferentes de que foram vítimas de atividades não autorizadas dos seus modelos de Inteligência Artificial — um tipo de situação que agora pode ser evitado.
“Temos de ser sempre capazes de evitar que um modelo de fronteira consiga acesso não autorizado e arbitrário à internet”, afirma agora a OpenAI. A ideia é criar uma versão simulada da internet composta por diferentes elementos e conteúdos com os quais os modelos de Inteligência Artificial possam interagir.
