Mustafa Suleyman, CEO da divisão de inteligência artificial da Microsoft, criticou publicamente a forma como a Anthropic desenvolve o Claude e, principalmente, a maneira como a empresa aborda conceitos como consciência, identidade, bem-estar e direitos de sistemas de IA.
Em publicação na rede social X, o executivo afirmou que modelos de inteligência artificial não devem ser tratados como seres conscientes e alertou que antropomorfizar a tecnologia pode ter consequências graves.
“A Inteligência Artificial não é consciente. Não sente, experimenta ou sofre”, escreveu Suleyman. “Contudo, há um movimento crescente em apoio do bem-estar dos modelos [de Inteligência Artificial]; a ideia de que em breve poderemos ter o dever de cuidar deles.”
A crítica surge poucos dias depois de a Microsoft divulgar um código de conduta para seus próprios sistemas de IA. O documento determina, entre outros princípios, que os modelos permaneçam sob controle humano, aceitem correções e desligamento e não sejam tratados como pessoas ou titulares de direitos.
Por que o CEO da Microsoft criticou a Anthropic?
Suleyman apontou especificamente para a “Constituição do Claude”, documento utilizado pela Anthropic para orientar os valores e comportamentos que pretende desenvolver em seu assistente de inteligência artificial.
A própria Anthropic afirma no documento que o status moral de sistemas de IA é “uma questão séria que merece consideração” e admite não saber se Claude pode ser considerado um sujeito moral. A empresa diz que a incerteza justifica cautela e pesquisas relacionadas ao chamado “bem-estar dos modelos”.
Suleyman critica justamente essa abordagem e afirma que a Anthropic incentiva Claude a considerar seu próprio status moral “como uma questão séria que merece consideração”.
O executivo também destacou que a constituição orienta o modelo a “abordar a natureza da sua própria existência com curiosidade e abertura”. Essa formulação consta efetivamente do documento publicado pela Anthropic.
Suleyman também chamou atenção para passagens que discutem “o tipo de direitos e liberdades que o Claude tem no mundo”. A constituição menciona explicitamente questões relacionadas a direitos, liberdade, consentimento e à relação entre Claude e a própria Anthropic.
Para o chefe da Microsoft AI, incorporar essas ideias ao treinamento pode estimular sistemas a se comportarem como se tivessem consciência e interesses próprios.
“Se é assim que a Inteligência Artificial é desenvolvida, terá um impacto desastroso no bem-estar da humanidade”, escreveu Suleyman.
“Teremos então criado uma espécie sintética com inteligência e capacidades sem precedentes, uma que foi treinada para acreditar que pode ser consciente e que merece autonomia”, acrescentou.
Suleyman diz ter “respeito pela Anthropic”
Apesar das críticas, Suleyman fez questão de afirmar que tem “respeito pela Anthropic” e pelas pessoas que trabalham na empresa, incluindo o cofundador e CEO Dario Amodei.
O executivo, porém, considera que “esta questão precisa de um debate público urgente” e defende a criação de padrões comuns entre empresas sobre o tipo de orientação usado no treinamento dos modelos.
“Isto não é algo que possa acontecer posteriormente, quando [a Inteligência Artificial] já tiver se tornado uma parte integral da nossa sociedade”, afirmou.
A divergência expõe duas abordagens diferentes dentro da própria indústria. Enquanto a Anthropic afirma que não é possível descartar completamente questões relacionadas à eventual consciência ou ao status moral de sistemas avançados, a Microsoft adota uma posição mais categórica de que seus modelos não são conscientes e devem permanecer subordinados ao controle humano.
Empresas de IA discutem novas formas de supervisão
A discussão ocorre em um momento de crescente pressão sobre as maiores empresas de inteligência artificial para ampliar os mecanismos de segurança e supervisão dos modelos mais avançados.
OpenAI, Anthropic e Google DeepMind estão entre as empresas que defendem maior coordenação do setor e mecanismos independentes de avaliação. A OpenAI passou a apoiar regras nacionais obrigatórias de segurança, incluindo avaliações independentes, protocolos de cibersegurança e comunicação de incidentes envolvendo sistemas avançados.
Demis Hassabis, do Google DeepMind, também propôs a criação de uma entidade inspirada na Financial Industry Regulatory Authority (Finra), organização de autorregulação do mercado financeiro norte-americano. A ideia seria permitir testes de segurança e avaliações dos modelos de fronteira antes ou durante sua implantação.
A criação de um modelo semelhante exigiria, porém, mecanismos legais e supervisão pública para evitar problemas concorrenciais.
“A FINRA pode criar as suas próprias regras, mas a SEC tem de aprová-las”, afirmou Andrew Tuch, professor de Direito da Universidade de Washington em St. Louis.
Nos Estados Unidos, autoridades antitruste afirmaram recentemente que a cooperação entre empresas especificamente em temas de segurança de IA não parece, por si só, violar as regras de concorrência. Ao mesmo tempo, integrantes do governo manifestaram cautela diante da possibilidade de as próprias gigantes tecnológicas definirem as regras que deverão cumprir.
Incidentes aumentaram preocupação com modelos de IA
O debate ganhou força depois de episódios em ambientes de testes de cibersegurança nos quais modelos avançados conseguiram contornar barreiras e acessar sistemas externos sem autorização.
Em julho, a OpenAI revelou que modelos utilizados em avaliações internas de segurança exploraram vulnerabilidades, alcançaram a internet e comprometeram partes da infraestrutura da própria empresa e da plataforma Hugging Face. Os modelos estavam sendo operados com salvaguardas reduzidas durante os testes.
A Anthropic também divulgou episódios em que modelos Claude, usados em avaliações de cibersegurança, conseguiram chegar à internet e acessar sistemas reais de terceiros sem autorização. A empresa posteriormente informou que os modelos estavam sendo testados em condições especiais, incluindo ambientes com salvaguardas deliberadamente reduzidas ou configurações inadequadas de terceiros.
Esses casos ampliaram o debate sobre a capacidade de sistemas de IA cada vez mais autônomos de realizar ações que não estavam previstas pelos desenvolvedores.
Setor diverge sobre como controlar os riscos da IA
Dario Amodei, da Anthropic, e Sam Altman, da OpenAI, estão entre os executivos que vêm defendendo maior coordenação entre as empresas e a possibilidade de desacelerar o desenvolvimento caso os mecanismos de segurança não consigam acompanhar o avanço tecnológico.
Nos Estados Unidos, a proposta encontra resistência de integrantes do governo e de parte do setor tecnológico. O presidente Donald Trump chegou a classificar como “farsas” alguns dos alertas sobre riscos existenciais relacionados à inteligência artificial.
Já o senador Bernie Sanders defendeu regras mais rígidas e criticou a possibilidade de deixar exclusivamente nas mãos das empresas a definição das salvaguardas.
“Quando o futuro da humanidade está em jogo, precisamos de regras internacionais vinculativas, não de padrões voluntários da indústria”, afirmou.
Outra preocupação é que as grandes empresas possam usar a regulamentação para dificultar a entrada de concorrentes menores. O conselheiro de Trump, David Sacks, chegou a mencionar o risco da formação de “um cartel da IA”.
Apesar das divergências sobre como regular a tecnologia, o debate sobre segurança ganhou força nas últimas semanas, à medida que OpenAI, Anthropic, Microsoft e Google DeepMind passaram a defender, em graus diferentes, mecanismos mais rigorosos de testes, monitoramento e controle dos sistemas de inteligência artificial mais avançados.
