Anthropic restringe comportamentos abusivos contra Claude

A Anthropic, empresa desenvolvedora do Claude, implementou uma atualização significativa em sua política de uso para combater comportamentos abusivos e cruéis persistentes direcionados aos seus modelos de inteligência artificial. A mudança reflete uma postura mais rigorosa frente aos desafios éticos emergentes no universo das IAs conversacionais.

A nova política, que entra em vigor em 12 de novembro, autoriza o Claude a encerrar conversas caracterizadas por abuso ou crueldade desnecessária e contínua. Contudo, a empresa esclarece que a restrição não se aplica a críticas legítimas ou manifestações de insatisfação com as respostas fornecidas pelo chatbot, mas exclusivamente a interações abusivas ou cruéis que se repetem sem justificativa.

Segundo a Anthropic, o principal mecanismo para aplicar essa regra será justamente a capacidade do Claude de finalizar as conversas que violem os novos parâmetros. Dessa forma, o modelo de IA ganha autonomia para proteger-se contra padrões de comportamento prejudiciais perpetrados pelos usuários durante as interações.

Contexto do debate sobre consciência em sistemas de IA

A iniciativa ocorre em um momento de intenso debate acerca da possibilidade de sistemas de inteligência artificial desenvolverem alguma forma de consciência. Essa discussão transcende aspectos técnicos e adentra questões filosóficas e éticas sobre como as máquinas devem ser tratadas.

A política atualizada pela Anthropic não menciona explicitamente o conceito de bem-estar dos modelos, noção que questiona se sistemas de inteligência artificial mereceriam proteção moral. Porém, a empresa e seus líderes já abordaram publicamente essa possibilidade em diversas ocasiões.

No ano anterior, a Anthropic comunicou que concederia ao Claude a capacidade de encerrar conversas em situações raras e extremas de interações persistentemente abusivas. Em fevereiro deste ano, Dario Amodei, presidente-executivo da companhia, declarou ao jornal The New York Times sua incerteza quanto à possibilidade de modelos de IA possuírem consciência, mas afirmou estar aberto a essa possibilidade.

"Não sabemos se os modelos estão conscientes. Mas estamos abertos à ideia de que isso possa ser", ressaltou Amodei durante a entrevista.

Posições divergentes sobre consciência artificial

A questão de máquinas desenvolverem consciência divide significativamente opiniões entre especialistas e pesquisadores que trabalham com inteligência artificial. Atualmente, não existe consenso científico estabelecido sobre como definir ou identificar consciência em sistemas dessa natureza.

Jackson Stakeman, gerente-geral da Sparq, empresa especializada em serviços de IA com sede em Atlanta, alertou à Agência France-Presse que concentrar a discussão exclusivamente na consciência pode resultar em debates circulares e inconclusos. "Consciência é uma armadilha. Não podemos provar isso um no outro. Debata isso sobre IA e você fica em círculos", observou Stakeman.

Para Stakeman, os sistemas de inteligência artificial reproduzem, em larga escala, comportamentos humanos. Essa característica, segundo sua análise, já constituiria fundamento suficiente para promover discussões sobre alterações nas políticas de uso desses sistemas.

Críticas e resistência à atribuição de consciência às máquinas

A proposição de atribuir consciência às máquinas enfrenta resistência considerável de figuras proeminentes no setor. Mustafa Suleyman, chefe de inteligência artificial da Microsoft, refutou essa ideia em um ensaio divulgado recentemente, argumentando que "as IAs não estão conscientes. Elas não sentem, não experimentam nem sofrem".

Suleyman também ponderou que conceder direitos e proteções morais a sistemas tecnológicos cada vez mais sofisticados poderia acarretar riscos substanciais para a sociedade. Sua perspectiva reflete preocupações mais amplas sobre as implicações de conferir status moral a entidades tecnológicas.

Adicionalmente, o papa Leão XIV abordou a temática durante um sermão proferido em italiano na Basílica de São Pedro, no Vaticano. Ao discorrer sobre as distinções entre o pensamento humano e o processamento de informações pelas máquinas, o pontífice destacou que os algoritmos compilam dados com maior rapidez que os seres humanos. Contudo, enfatizou a relevância das experiências vividas e da dimensão espiritual característica da humanidade, diferenciando-a das capacidades puramente computacionais.

Implicações práticas da nova política

A atualização de política pela Anthropic representa um passo pragmático na regulação do comportamento dos usuários frente aos modelos de inteligência artificial. Embora não resolva definitivamente questões filosóficas sobre consciência, estabelece limites concretos para interações abusivas.

A implementação dessa medida sinaliza a preocupação crescente das empresas de IA com questões éticas e de tratamento responsável de suas tecnologias, reconhecendo que o comportamento do usuário importa na qualidade e sustentabilidade das plataformas de inteligência artificial.