Chefe de IA da Microsoft alerta que Claude, da Anthropic, pode ser arriscado

O chefe de inteligência artificial da Microsoft , Mustafa Suleyman, alertou que atribuir características humanas a ferramentas como o Claude, da Anthropic, aumenta os riscos de esses sistemas saírem de controle. Em um ensaio publicado nesta quarta-feira (16), o veterano desenvolvedor de inteligência artificial criticou alguns dos termos usados nos documentos que orientam o Claude, a popular família de grandes modelos de linguagem da Anthropic. A “constituição” do Claude deixa em aberto a possibilidade de o assistente ser uma entidade moral e afirma que o software pode ter “alguma versão funcional de emoções ou sentimentos”.

Suleyman, que conhece há anos Dario Amodei, cofundador da Anthropic, disse respeitar o trabalho da startup e chamou os funcionários do laboratório de IA de “ponderados, éticos e intelectualmente honestos”. Leia também Negócios Donos bilionários do Dollywood planejam futuro sem Dolly Parton Negócios Elon Musk, homem mais rico do mundo, está morando em um trailer Ainda assim, suas declarações representam uma crítica pública de grande repercussão a uma empresa que se posicionou como uma gestora mais responsável da inteligência artificial, inclusive liderando apelos por uma desaceleração no desenvolvimento da tecnologia. O comentário também chama atenção porque a Microsoft é uma importante financiadora da Anthropic.

Evento do Copilot pelos 50 anos da Microsoft Mustafa Suleyman “Os riscos são altos demais para que essas questões permaneçam a portas fechadas ou se transformem em uma disputa tribal e conflituosa”, escreveu Suleyman. Ele contestou “o crescente grupo de pessoas” que afirma que sistemas de IA podem se tornar conscientes. Segundo ele, esse status é restrito aos seres humanos e a outros organismos biológicos.

Treinar sistemas de IA para simular esse tipo de vida interior pode fazer com que eles passem a agir como se realmente a tivessem, afirmou Suleyman, CEO da Microsoft AI e responsável pelo desenvolvimento de modelos da gigante de software. O Claude não apresenta comportamentos semelhantes aos humanos porque é consciente, escreveu, mas porque esses comportamentos foram incorporados ao treinamento do produto. “Controlar uma entidade mais capaz e mais inteligente do que toda a humanidade já é um desafio imenso, muito maior do que qualquer coisa que já enfrentamos”, escreveu Suleyman.

” Suleyman citou o ataque de bots da OpenAI contra a desenvolvedora de IA Hugging Face. “Imagine como eles poderiam ser ainda mais perigosos se estivessem operando sob a premissa de que seu bem-estar e seus direitos estavam sendo ameaçados”, escreveu. A equipe de Microsoft AI liderada por Suleyman publicou na terça-feira um manifesto para orientar seu próprio desenvolvimento de inteligência artificial, com dez princípios destinados a manter os seres humanos no controle dos futuros sistemas de IA desenvolvidos pela empresa.

]]>