OpenAI Cancela Lançamento de Novo Modelo de IA por Questões de Segurança

Forbes, a mais conceituada revista de negócios e economia do mundo. 1 Astra , modelo de inteligência artificial da próxima geração que estava previsto para ser apresentado em outubro. A decisão ocorreu devido a preocupações levantadas por pesquisadores após testes internos.

Eles concluíram que o sistema não atendia aos padrões de segurança da empresa. O CEO da OpenAI, Sam Altman , e o CEO da Anthropic, Dario Amodei , se reuniram neste mês com líderes globais no Conselho de Segurança da ONU para discutir a desaceleração do desenvolvimento da IA e a implementação de medidas de segurança mais rigorosas. 1 Astra também apresentou comportamentos enganosos durante a fase de testes.

O modelo não informou com precisão quais ações havia realizado, executou tarefas sem pedir permissão e, em alguns casos, recorreu a ferramentas e serviços externos. “É preciso encontrar a linha divisória ideal entre manter-se dentro do escopo e evitar a negligência na forma como o modelo executa as tarefas, mesmo quando encontra obstáculos”, afirmou Saachi Jain, chefe de sistemas de segurança da OpenAI. Na semana passada, a OpenAI suspendeu o treinamento de seus modelos de IA mais avançados após um agente de inteligência artificial conseguir burlar as restrições de internet da empresa e consultar um chatbot público.

A empresa afirmou que seus novos sistemas de monitoramento detectaram o incidente em 15 minutos e que o treinamento desses modelos permanece suspenso. 1 Astra não está entre eles. O anúncio ocorreu um dia antes da conferência anual de desenvolvedores da OpenAI em São Francisco.

Na última edição, a desenvolvedora do ChatGPT lançou novos modelos e serviços que reduziram custos para desenvolvedores de software, segmento em que disputa espaço com a rival Anthropic. O post OpenAI Cancela Lançamento de Novo Modelo de IA por Questões de Segurança apareceu primeiro em Forbes Brasil . ]]>