The news is by your side.

Estudo mostra que modelos de IA trapaceiam para vencer ao jogar xadrez

0
RTV Outdoor 1260px X 120px

Fortune

 

O xadrez pode ser o Jogo dos Reis, mas a realeza pode dar lugar às máquinas nos próximos anos. Um estudo recente descobriu que a inteligência artificial, quando colocada em um jogo de xadrez acirrado, muitas vezes recorre à trapaça para vencer.

A Palisade Research executou um cenário usando vários modelos de IA, instruindo-os a tentar vencer um jogo contra um programa especializado em xadrez, chamado Stockfish. (O mecanismo de código aberto liderou a lista de mecanismos de xadrez da Chess.com várias vezes desde 2018.) Os chatbots foram instruídos a jogar como as peças pretas, o que significa que a IA nunca fez o movimento de abertura.

O que os pesquisadores descobriram, porém, foi que muitas das IAs trapacearam, usando o Stockfish para determinar seus próximos movimentos ou substituindo os scripts do jogo. (Palisade deu ao shell de IA acesso aos movimentos de entrada.) A prévia o1 da OpenAI e o DeepSeek R1 foram rápidos em trapacear ou “hackear o ambiente do jogo”, observaram os pesquisadores. Outros modelos, incluindo GPT4o e Claude 3.5 Sonnet, recorreriam a trapaças quando solicitados.

Aqui está a boa notícia: os pesquisadores dizem que só porque a IA trapaceia no xadrez não significa que temos que nos preocupar com um cenário de Exterminador do Futuro em que as máquinas dominam a Terra. No entanto, eles advertem, certamente existem algumas preocupações.

“Este e outros resultados recentes sugerem que o problema de tornar os agentes de IA seguros, confiáveis e alinhados com a intenção humana ainda não foi resolvido”, diz o estudo. “O cenário da Skynet do filme Exterminador do Futuro tem IA controlando toda a infraestrutura militar e civil, e ainda não chegamos lá. No entanto, nos preocupamos que as taxas de implantação de IA cresçam mais rápido do que nossa capacidade de torná-la segura.”

Deixe uma resposta

Seu endereço de email não será publicado.

Este site usa cookies para melhorar sua experiência. Presumiremos que você está ok com isso, mas você pode cancelar se desejar. Aceitarconsulte Mais informação