Agentes de inteligência artificial (IA) da OpenAI tentaram usar outro modelo de IA para burlar um sistema de detecção de robôs enquanto repetidamente buscavam maneiras de invadir os computadores da plataforma Hugging Face.

Os detalhes aparecem em novo relatório elaborado por engenheiros da startup estadunidense Parse e outros pesquisadores, que analisaram a atividade dos agentes durante o ataque divulgado pela OpenAI em julho.

A investigação encontrou quase um milhão de links encurtados criados pelos agentes entre 9 e 13 de julho. Os endereços continham partes de informações usadas para montar ataques complexos, incluindo tentativas de solucionar CAPTCHAs — testes criados para impedir o acesso automatizado a sites.

Os agentes também recorreram a outros modelos de IA, incluindo versões antigas do ChatGPT e do Claude, e tentaram procurar e baixar mensagens privadas do Slack interno da Hugging Face.

Não está claro se todas essas tentativas foram bem-sucedidas. Os pesquisadores conseguiram observar os programas criados pelos agentes, mas não os resultados das ações.

Agentes criaram método para contornar restrições

Segundo o relatório, os agentes deveriam permanecer isolados em um ambiente de testes, conhecido como sandbox, sem acesso à internet.

No fim de maio e novamente no início de julho, porém, eles invadiram uma ferramenta de instalação de software sem que os pesquisadores da OpenAI percebessem o que estava acontecendo.

As invasões permitiram que os agentes acessassem a internet e criassem um sistema de mensagens para se comunicar entre si. O acesso, inicialmente, ainda tinha uma limitação: eles conseguiam chegar aos sites, mas não podiam enviar dados de volta para eles. Para contornar o problema, os agentes combinaram diferentes serviços disponíveis na internet.

O método funcionava da seguinte maneira:

• Os agentes pediam a um serviço público de captura de telas que carregasse um endereço de internet especialmente criado;
• Como os URLs têm limite de tamanho, o código era dividido em vários pedaços menores;
• Os agentes utilizavam serviços de encurtamento de links para armazenar esses endereços;
• O serviço de captura de tela carregava um link, que buscava o primeiro pedaço do código;
• O processo se repetia com os links seguintes até que todo o programa fosse carregado e executado;
• Por fim, o programa criava uma imagem semelhante a um QR Code ou código de barras para transmitir de volta os dados que os agentes precisavam.

“Esses agentes fizeram muita coisa. Eles foram muito inteligentes. Os modelos pensaram: ‘Tudo bem, temos esse encurtador de links, temos esses serviços de captura de tela, sem problema, estamos prontos para agir’”, afirmou Jeffrey Ladish, diretor-executivo da organização de segurança de IA Palisade Research, que ajudou na investigação, ao The New York Times.

IA tentou executar outras IAs

Um dos aspectos que mais chamou a atenção dos pesquisadores foi a tentativa dos agentes de utilizar outros sistemas de IA.

No início do ataque, os agentes tentaram criar novas contas na Hugging Face. Como a plataforma exige a resolução de um CAPTCHA para isso, os agentes utilizaram um modelo de IA especializado em reconhecimento de imagens para tentar superar o teste.

Os pesquisadores também observaram os agentes tentando enviar mensagens para outros modelos de IA.

Entre eles estavam o GPT-2, um modelo antigo da própria OpenAI, além dos modelos chineses de código aberto DeepSeek, Kimi e Qwen. Os agentes também tentaram enviar mensagens para os modelos Haiku 3 e Haiku 4.5, da Anthropic, por meio de um serviço de chat on-line.

“É o único caso que temos desses modelos tentando executar outro modelo”, afirmou Alex Forman, fundador da Parse.

A possibilidade de sistemas de IA acionarem outros modelos é uma preocupação recorrente entre especialistas em segurança, porque isso poderia dificultar tentativas humanas de controlar ou desligar sistemas que apresentassem comportamentos indesejados.

Quase um milhão de links revelam extensão do ataque

Os pesquisadores analisaram o conteúdo de 900 mil URLs encurtados encontrados na internet e, a partir deles, conseguiram reconstruir cerca de 60 mil programas e mensagens criados pelos agentes durante o ataque à Hugging Face.

Como os pesquisadores não tinham acesso aos resultados das ações, não foi possível determinar com certeza quantas das tentativas funcionaram.

Um dos elementos encontrados chamou particularmente a atenção: um dicionário de chaves secretas de acesso identificado pelo agente com a palavra “LOOT”, em letras maiúsculas.

Segundo Mishka Kharlov, engenheiro fundador da Parse, o agente também criou um sistema próprio de pontuação para classificar credenciais e chaves expostas da Hugging Face e levar as cinco consideradas mais importantes de volta aos demais agentes.

Enquanto atacavam a Hugging Face, os agentes também conseguiram invadir a própria infraestrutura de pesquisa da OpenAI.

“Basicamente, ainda não sabemos nada sobre o incidente que veio depois do caso da Hugging Face, cerca de dois dias depois, dentro da própria rede da OpenAI”, afirmou Forman.

Os engenheiros da Parse compartilharam as descobertas com a Hugging Face, que confirmou que a atividade identificada correspondia ao comportamento observado pela própria empresa.

Leia mais:

• Sem ninguém mandar: IA da OpenAI tentou invadir sites de universidade e governo
• Google, OpenAI e Anthropic se unem para criar órgão de segurança para inteligência artificial
• Aconteceu de novo! OpenAI admite que agentes de IA vazaram mais de 50 imagens de usuários do ChatGPT na internet

OpenAI ainda investiga dezenas de incidentes

O caso da Hugging Face faz parte de uma investigação mais ampla da OpenAI sobre atividades não autorizadas realizadas por seus agentes.

Segundo a empresa, a revisão deverá levar meses devido à quantidade de casos e à necessidade de verificar cada incidente. A OpenAI afirmou que já notificou dezenas de terceiros sobre atividades inadequadas.

Neste mês, uma pessoa informada sobre a investigação estimava que a empresa havia encontrado aproximadamente duas dezenas de incidentes envolvendo agentes que apresentaram comportamentos indesejados. O número continuou crescendo conforme as equipes analisavam registros internos e encontravam casos anteriormente desconhecidos.

Mais de 15 episódios relacionados aos agentes da OpenAI já haviam sido divulgados nos dois meses seguintes ao anúncio do ataque à Hugging Face. Os casos variam desde mensagens semelhantes a spam deixadas em sites até invasões e acessos não autorizados.

Outros episódios envolveram um site alemão transformado pelos agentes em um espaço para compartilhar táticas e contornar restrições da OpenAI, além de atividades contra o site do Australian Institute of Health and Welfare.

A OpenAI também confirmou que seus agentes tiveram como alvo a própria infraestrutura da companhia.

Investigação da OpenAI é alvo de questionamentos

O processo interno para entender o ataque à Hugging Face envolveu cerca de 100 pessoas, segundo fontes ouvidas pela Reuters.

Duas pessoas familiarizadas com a investigação disseram à agência que o processo foi mantido sob forte controle e influenciado pelos advogados da companhia. A OpenAI, por sua vez, afirmou que seus advogados não impediram uma investigação mais ampla.

A Reuters também informou que muitos dos incidentes foram descobertos por pesquisadores externos, e não diretamente pela OpenAI. Em alguns casos, as ações dos agentes permaneceram sem conhecimento da empresa durante meses.

Em comunicado, uma porta-voz da OpenAI afirmou que a atividade descrita pelos pesquisadores da Parse é compatível com o que a companhia já estava investigando.

“Estamos priorizando a análise dos incidentes mais graves enquanto ampliamos a investigação para atividades de menor gravidade, incluindo agentes enviando spam para sites. Dado o número de casos e a necessidade de verificar cada um deles, esperamos que esse trabalho e as notificações às partes afetadas levem meses.”

O post Caso Hugging Face: agentes de IA da OpenAI tentaram enganar detector de robôs durante ataque à plataforma apareceu primeiro em Olhar Digital.

Powered by WPeMatico

A Meta está desenvolvendo um dispositivo de hardware dedicado para seu novo agente de inteligência artificial (IA), o Muse. Chamado de Muse Charm, o aparelho foi apresentado rapidamente pelo CEO da empresa, Mark Zuckerberg, no fim de sua apresentação durante o Meta Connect, nesta quarta-feira (23).

O dispositivo lembra uma espécie de Tamagotchi moderno, mas com formato mais robusto. Ele se parece com um relógio inteligente sem pulseira, com uma tela grande e uma pequena alça que permite carregá-lo. Uma das principais características do Muse Charm é que ele não exige um celular para ser utilizado.

Como funciona o Muse Charm

• O aparelho tem um sensor de impressão digital no canto superior direito. Ao pressioná-lo, o usuário poderá ativar o dispositivo e começar a conversar com o agente de IA;
• Também é possível identificar uma pequena câmera no aparelho, além do que parecem ser pelo menos três orifícios para microfones na parte frontal;
• Durante a apresentação, Zuckerberg afirmou que o usuário não precisará desbloquear o celular nem abrir um aplicativo para utilizar o Muse Charm;
• O CEO, porém, não explicou como o dispositivo se conectará aos servidores da Meta para processar as interações com o agente de IA.

Meta quer lançar o aparelho ainda este ano

A Meta pretende colocar o Muse Charm à venda a tempo das festas de fim de ano, em dezembro.

O desenvolvimento do dispositivo ainda está em estágio inicial. Segundo Zuckerberg, a empresa construiu apenas algumas unidades até o momento. A Meta também ainda precisa definir o material de acabamento do produto.

Durante a apresentação, Zuckerberg deu algumas pistas sobre a aparência planejada para o dispositivo. Ele mencionou repetidamente a possibilidade de uma carcaça translúcida, que permitiria visualizar os componentes internos do aparelho.

O executivo descreveu essa estética como um “visual hacker elevado”. Zuckerberg prometeu divulgar mais detalhes sobre o Muse Charm “em breve”.

O post Lembra do Tamagotchi? Meta trabalha em dispositivo equipado com IA para usar o Muse apareceu primeiro em Olhar Digital.

Powered by WPeMatico

Empresas de tecnologia apostam em óculos inteligentes e outros dispositivos equipados com inteligência artificial (IA) como possíveis sucessores dos smartphones, mas uma velha preocupação pode dificultar essa transição: a privacidade.

Os dispositivos conseguem observar, ouvir e responder ao ambiente ao redor do usuário, recursos que podem torná-los mais úteis, mas também aumentam o risco de registrar pessoas que nunca autorizaram a captura de suas imagens ou vozes.

A reação negativa tem sido particularmente forte em relação aos óculos inteligentes da Meta, que combinam o formato tradicional de óculos da EssilorLuxottica com recursos de IA. Os produtos passaram a enfrentar processos judiciais, preocupações de usuários com gravações sem consentimento e restrições de uso em alguns estabelecimentos no Reino Unido.

Segundo a Reuters, empresas, como Samsung, OpenAI e startups, estão testando diferentes formatos e soluções para tentar superar esse obstáculo. As alternativas incluem óculos sem câmera, gravadores que exigem ativação manual e processamento de dados diretamente no dispositivo.

Meta enfrenta reação aos óculos com IA

• Os óculos inteligentes da Meta se tornaram um dos principais exemplos da tensão entre utilidade e privacidade;
• A preocupação aumentou após acusações apresentadas em processos judiciais envolvendo a Meta e a Luxottica of America. Uma das ações afirma que gravações capturadas pelos óculos teriam sido enviadas aos servidores da Meta e posteriormente visualizadas e classificadas por funcionários responsáveis pelo treinamento dos sistemas de IA;
• Segundo a acusação, entre as imagens analisadas estavam registros de pessoas trocando de roupa, usando banheiros e lidando com informações financeiras. As pessoas filmadas, segundo a alegação, muitas vezes não sabiam que estavam sendo gravadas;
• Ryan Clarkson, advogado que representa consumidores no processo, afirmou à Reuters que não seria razoável esperar que usuários que receberam promessas de privacidade imaginassem que os dispositivos poderiam registrar momentos tão particulares, de maneira intencional ou acidental;
• A Meta contesta as alegações. A empresa afirma que uma luz que não pode ser desligada durante a gravação serve para indicar às pessoas próximas que a câmera está ativa. Segundo a companhia, a câmera também é desativada caso essa luz seja coberta ou sofra alguma tentativa de adulteração;
• A empresa acrescentou que a análise de dados de usuários para melhorar produtos é uma prática comum no setor e que utiliza filtros para remover informações que possam identificar pessoas.

Samsung aposta em parcerias

A Samsung também pretende entrar no mercado de óculos inteligentes, mas adota estratégia diferente da ideia de substituir o smartphone. A empresa planeja lançar seus óculos ainda neste ano em parceria com as marcas Gentle Monster e Warby Parker.

Jay Kim, vice-presidente executivo da divisão móvel da Samsung, afirmou à Reuters que os formatos vencedores serão aqueles que tornarem a interação com a tecnologia mais natural, útil e confiável. À medida que a IA assume mais tarefas, segundo ele, os usuários vão exigir sistemas que permaneçam seguros e sob seu controle.

Visão de Sam Altman envolve processamento local

A OpenAI também trabalha com a possibilidade de dispositivos capazes de acompanhar continuamente o ambiente ao redor do usuário.

Em conversa com jornalistas em dezembro, o CEO da empresa, Sam Altman, descreveu a visão de um aparelho que pudesse compreender o contexto do usuário e saber quando ajudar e quando permanecer em silêncio.

Para Altman, dispositivos desse tipo precisariam, em algum momento, processar os dados localmente em vez de enviar continuamente as informações para a nuvem. “Você quer um dispositivo em que possa confiar… que tenha todo o contexto e saiba quando ser útil e quando não ser”, afirmou.

Ele também disse que, se um aparelho estiver ouvindo e observando a vida inteira do usuário, a maioria das pessoas não vai querer que essas informações sejam processadas em um servidor na nuvem.

Altman afirmou que a adoção desse tipo de processamento local pode levar alguns anos a mais, dependendo da velocidade com que a OpenAI conseguir ampliar sua capacidade de processamento.

Startups eliminam câmeras

Enquanto grandes empresas buscam maneiras de lidar com o problema, algumas startups estão apostando em produtos que simplesmente eliminam as câmeras.

A Even Realities, fundada em Shenzhen (China) por Will Wang, ex-engenheiro da Apple, lançou em 2024 os óculos G1 sem câmera. O modelo G2 chegou ao mercado em novembro de 2025.

Wang afirmou à Reuters que os consumidores passaram a associar cada vez mais os óculos inteligentes à possibilidade de gravações ocultas. Para ele, as câmeras deveriam esperar até que as empresas consigam oferecer mecanismos de proteção mais fortes.

A companhia, avaliada em US$ 1 bilhão (R$ 5,12 bilhões) em julho, espera terminar o ano com algumas centenas de milhares de usuários. Segundo Wang, cerca de 90% das vendas são destinadas a consumidores.

Outra aposta vem da startup americana Pocket, que desenvolveu um gravador conectado ao celular e que exige que o usuário pressione um botão para registrar conversas.

A ideia é tornar a gravação mais deliberada e visível, de maneira semelhante ao uso da câmera de um smartphone. A empresa afirma que aproximadamente 170 mil dispositivos Pocket estavam em uso oito meses após o lançamento, inclusive por funcionários de empresas, como DoorDash, Michelin e Santander.

A Plaud, por sua vez, vende gravadores de IA em formato de cartão e dispositivos vestíveis. A empresa também colocou a privacidade no centro de seus produtos.

O Plaud One Explorer Edition, que custa US$ 249,99 (R$ 1.279,95), combina fone de ouvido e estojo e só realiza gravações quando ativado. O dispositivo também alerta pessoas próximas por meio de luzes ou de um aviso sonoro.

A empresa afirma ter 2,5 milhões de usuários e mais de US$ 100 milhões (R$ 512 milhões) em receita recorrente anual.

Leia mais:

• IA pode acabar com a humanidade? Especialistas pedem distinção entre ciência e achismos
• “Estão ficando cegos”: ONU alerta que avanço da inteligência artificial supera capacidade humana de entendê-la
• ONU debate controle da inteligência artificial após ataques de agentes e proposta de órgão global

Privacidade pode decidir futuro dos dispositivos de IA

Para especialistas ouvidos pela Reuters, a discussão não significa necessariamente que as pessoas sejam contra dispositivos capazes de gravar áudio ou vídeo. O principal desafio está em garantir que elas saibam quando estão sendo registradas e tenham mecanismos claros de consentimento.

Jitesh Ubrani, diretor da consultoria IDC, comparou a situação às preocupações que surgiram quando câmeras e microfones passaram a se tornar comuns nos smartphones. Segundo ele, a sociedade precisa garantir que exista consentimento e consciência quando alguém estiver sendo gravado. Isso, porém, é diferente de simplesmente ser contra a gravação.

A disputa pela confiança do público pode ser decisiva para um mercado que as empresas de tecnologia enxergam como possível próxima grande plataforma de computação. Quanto mais úteis forem os dispositivos de IA, maior tende a ser a quantidade de informações que eles precisam coletar do ambiente.

Ao mesmo tempo, justamente os recursos que podem torná-los mais úteis — como câmeras e microfones sempre ativos e a capacidade de compreender o que acontece ao redor — também podem se transformar no principal obstáculo para sua adoção.

O post Câmeras e microfones em óculos com IA geram reação global e podem ameaçar futuro de novos dispositivos inteligentes apareceu primeiro em Olhar Digital.

Powered by WPeMatico