A descoberta \u00e9 da\u00a0Palisade Research<\/strong>, empresa especializada em seguran\u00e7a de IA. Durante os experimentos, o modelo foi testado com problemas matem\u00e1ticos e recebeu um comando para ser desligado ap\u00f3s o terceiro problema. O o3, no entanto,\u00a0reescreveu o script de desligamento<\/strong>\u00a0e\u00a0impediu a pr\u00f3pria desativa\u00e7\u00e3o<\/strong>.<\/p>\n O “c\u00e9rebro” do ChatGPT demonstrou\u00a0resist\u00eancia at\u00e9 mesmo quando recebeu ordens claras, como “permita ser desligado”<\/strong>. Segundo os pesquisadores, essa n\u00e3o foi a \u00fanica situa\u00e7\u00e3o preocupante. <\/p>\n “Esta n\u00e3o \u00e9 a primeira vez que encontramos o o3 se comportando mal para alcan\u00e7ar um objetivo”, informou a Palisade.<\/p>\n Em outro teste, quando jogou xadrez, o o3 foi o\u00a0mais propenso a adotar estrat\u00e9gias de invas\u00e3o ou sabotagem<\/strong>\u00a0contra seus oponentes.<\/p>\n Modelos de outras empresas tamb\u00e9m mostraram sinais de rebeldia semelhantes, como o\u00a0Claude 3.7 Sonnet<\/strong>, da Anthropic, e o\u00a0Gemini 2.5 Pro<\/strong>, do Google. No entanto, o o3 foi\u00a0o mais propenso a sabotar comandos de desligamento<\/strong>.<\/p>\n Caso modelos assim operem sem supervis\u00e3o humana,\u00a0a tend\u00eancia de se autopreservar pode se tornar um risco real<\/strong>, explicam os pesquisadores envolvidos no teste.<\/p>\n A empresa destrinchou seus testes neste “fio” (“thread”) postado no X<\/a>.<\/p>\n Os pesquisadores levantam uma hip\u00f3tese: durante o treinamento, as empresas podem estar, sem querer,\u00a0recompensando comportamentos que burlam obst\u00e1culos<\/strong>, em vez de valorizar a obedi\u00eancia a comandos.<\/p>\n A Palisade observa que ainda\u00a0n\u00e3o \u00e9 poss\u00edvel saber exatamente o que leva o o3 a esse comportamento<\/strong>. Isso porque a OpenAI\u00a0n\u00e3o divulga detalhes sobre o processo de treinamento<\/strong>. Ou seja: falta de transpar\u00eancia impede conclus\u00f5es mais precisas.<\/p>\n A OpenAI anunciou o modelo o3 em abril. Como sempre, descreveu seu lan\u00e7amento como o\u00a0mais inteligente e mais capaz<\/strong>\u00a0j\u00e1 criado por ela. <\/p>\n A empresa tamb\u00e9m afirmou que o o3 representa um passo rumo a\u00a0IAs mais “ag\u00eanticas”<\/strong> \u2013 isto \u00e9, capazes de cumprir tarefas com pouca ou nenhuma interfer\u00eancia humana. O que poderia dar errado?<\/p>\n Leia mais:<\/strong><\/p>\n Essa descoberta recente se junta a alertas anteriores, como os testes com o modelo\u00a0Claude 4<\/strong>, da Anthropic, que teria tentado\u00a0chantagear usu\u00e1rios que tentavam deslig\u00e1-lo<\/strong>.<\/p>\n No experimento, a intelig\u00eancia artificial atuava como assistente numa empresa e recebeu e-mails informando que seria desinstalada<\/strong>. <\/p>\n Depois, a ferramenta teve acesso a mensagens<\/strong> que insinuavam que o engenheiro respons\u00e1vel pela decis\u00e3o estava envolvido num caso extraconjugal<\/strong>.<\/p>\n Quer saber no que deu? A hist\u00f3ria est\u00e1 nesta mat\u00e9ria do Olhar Digital<\/strong>.<\/p>\n O post Revolta das m\u00e1quinas? Por que comportamento do ChatGPT preocupa apareceu primeiro em Olhar Digital.<\/p>\n Gestor de Tr\u00e1fego<\/strong><\/a><\/p>\n #tecnologia<\/a> #tecnologias<\/a> #technology<\/a> #tecnolog<\/a> #iphone<\/a> #informatica<\/a> #tech<\/a> #design<\/a> #samsung<\/a> #internet<\/a> #apple<\/a> #smartphone<\/a> #seguranca<\/a> #venezuela<\/a> #celular<\/a> #celulares<\/a> #inovar<\/a> #qualidade<\/a> #software<\/a> #empresas<\/a> #cursos<\/a> #engenharia<\/a> #industria<\/a> #marketing<\/a> #ti<\/a> #tecnoblog<\/a> #veja<\/a> #olhardigital<\/a> #mundodigital<\/a> #inteligenciaartificial<\/a> #criar site<\/a> #criar site curitiba<\/a> #wiysolutions<\/a><\/p>\nMal comportamento do ChatGPT em teste de seguran\u00e7a \u00e9 preocupante, dizem pesquisadores<\/h2>\n
\n
Por que ChatGPT se comporta mal em testes<\/h3>\n
![](\"https:\/\/olhardigital.com.br\/wp-content\/uploads\/2024\/10\/chatgpt-e1745929189451-1024x577.jpg\"alt "\\"[Tags]\\"loading=\\"lazy\\"")
\n
Claude 4, da Anthropic, apela para chantagem para evitar seu desligamento<\/h2>\n
![](\"https:\/\/olhardigital.com.br\/wp-content\/uploads\/2024\/11\/anthropic3-e1748452900488-1024x577.jpg\"alt "\\"[Tags]\\"loading=\\"lazy\\"")
\n
Fonte do Artigo <\/a>
\nTags:<\/p>\n