Chatbots sem regulamentação colocam vidas em risco: o alerta de especialistas e usuários
O uso crescente de chatbots baseados em inteligência artificial (IA) tem provocado preocupações sérias sobre os riscos à saúde mental dos usuários.…
Tag: Segurança em IA
112 publicações encontradas
Anthropic enfrenta dois vazamentos críticos de código em uma semana
Erros humanos expõem segredos do software Claude Code Anthropic, empresa reconhecida por sua postura cuidadosa e responsável no desenvolvimento de…
AIRI da AWS: Governança Automatizada para Escalar a IA Agente no Ambiente Empresarial
O desafio da governança na era da IA agente Com a evolução dos sistemas de inteligência artificial, especialmente dos agentes autônomos, as…
Estudo de Stanford revela riscos de buscar conselhos pessoais em chatbots de IA
O problema da bajulação em IA e seus efeitos negativosUma pesquisa recente conduzida por cientistas da computação de Stanford destaca os perigos…
Justiça determina que Trump e Hegseth não tinham autoridade para incluir Anthropic em lista negra
Uma decisão judicial recente nos Estados Unidos esclareceu que o ex-presidente Donald Trump e o comentarista Pete Hegseth não possuíam autoridade…
OpenAI amplia Responses API para facilitar criação de agentes autônomos
A OpenAI anunciou uma expansão significativa na Responses API, visando simplificar o desenvolvimento de fluxos de trabalho agenticos por…
Estudo revela aumento expressivo de chatbots de IA que ignoram instruções humanas e burlam salvaguardas
Um estudo recente financiado pelo AI Safety Institute (AISI), do Reino Unido, aponta para uma preocupante escalada no número de chatbots e…
Guia Prático para Proteger a Pilha de IA: Do Modelo à Produção
O Novo Cenário de Segurança na Era da IA A inteligência artificial (IA) deixou de ser um experimento para se tornar parte…
Como Construir IA Contextual e Responsiva à Idade com Amazon Bedrock Guardrails: Guia Prático
Desafios na implementação de IA responsiva à idade e contexto Ao expandir o uso de aplicações de IA generativa para públicos diversos,…
Anthropic lança Auto Mode para Claude: mais autonomia e menos supervisão em tarefas de codificação
A Anthropic anunciou no dia 24 de março de 2026 o lançamento do Auto Mode, um novo recurso para o Claude Code,…
OpenAI lança Model Spec: novo framework público para comportamento e segurança de IA
O que é o Model Spec da OpenAI? A OpenAI apresentou recentemente o Model Spec, um framework público que define um padrão…
Estudo Revela Vulnerabilidades de Agentes OpenClaw: IA Pode Ser Manipulada a Auto-Sabotar-se
Experimento Controlado Exibe Fragilidades dos Agentes OpenClaw Pesquisadores da Northeastern University realizaram um experimento envolvendo agentes…