Entender o que acontece dentro de uma inteligência artificial (IA) é um dos grandes desafios da pesquisa na área. Embora desenvolvedores consigam observar as informações fornecidas a um modelo e as respostas produzidas por ele, nem sempre conseguem explicar como o sistema chegou a determinada conclusão. Um novo estudo, porém, sugere que esse funcionamento interno pode ser mais compreensível do que se imaginava.

O relatório foi publicado na quinta-feira (15) por Nick Cammarata, pesquisador independente que deixou a OpenAI em 2023. Segundo ele, redes neurais artificiais podem ser interpretadas quando seus padrões de funcionamento são analisados com atenção. A hipótese pode ter implicações para pesquisadores que tentam compreender e antecipar comportamentos inesperados de sistemas de IA.

A questão é relevante para a segurança da tecnologia. Se um modelo apresentar comportamento perigoso, compreender os mecanismos internos que contribuíram para aquela resposta pode ajudar os pesquisadores a identificar o problema e desenvolver formas de reduzi-lo.

O que acontece dentro de uma rede neural?

• Modelos de IA são treinados para reconhecer padrões e processar informações. Nesse processo, unidades artificiais conhecidas como neurônios são ativadas diante de determinados estímulos e influenciam o funcionamento de outras unidades;
• O problema é que essas conexões não são programadas manualmente para cada situação. Em vez disso, os modelos aprendem durante o treinamento a organizar e processar informações de maneiras que nem sempre são facilmente compreendidas pelos próprios desenvolvedores;
• Isso cria uma espécie de caixa-preta: pesquisadores conseguem avaliar o que entra no sistema e o que sai, mas nem sempre conseguem explicar com precisão o caminho percorrido entre uma coisa e outra;
• Cammarata argumenta que essa dificuldade não significa que as redes neurais sejam necessariamente indecifráveis. Para ele, a atividade dos neurônios pode apresentar padrões compreensíveis quando observada de maneira adequada.

Um mesmo neurônio pode reagir a coisas diferentes

Um dos exemplos apresentados pelo pesquisador ajuda a ilustrar a hipótese. Um único neurônio artificial pode ser ativado tanto pela imagem de um gato quanto pela parte dianteira de um carro.

Para uma pessoa, os dois elementos parecem completamente diferentes. Mas o modelo pode identificar alguma característica visual compartilhada entre eles, como uma forma triangular, e responder ao mesmo padrão nos dois casos.

Durante anos, pesquisadores consideraram que neurônios artificiais poderiam agrupar conceitos sem relação aparente para economizar espaço e capacidade de processamento. A nova interpretação sugere outra possibilidade: aquilo que parece uma associação aleatória pode refletir uma característica comum que não é imediatamente evidente para os seres humanos.

Cammarata defende que grande parte das redes neurais pode ser interpretada quando os pesquisadores examinam esses padrões com atenção. A afirmação, contudo, ainda faz parte de uma proposta teórica e não representa uma demonstração de que todos os mecanismos internos da IA já possam ser compreendidos.

Leia mais:

• Inteligência artificial vira aliada e ajuda a combater crise climática
• Dona do TikTok, ByteDance cria time global focado em conter riscos da IA
• Agentes de inteligência artificial invadem sistemas corporativos na Índia

Por que isso importa para a segurança da IA?

A interpretabilidade — área que busca entender como os modelos chegam a suas respostas — é considerada importante para o desenvolvimento de sistemas mais seguros. Quanto mais os pesquisadores souberem sobre os mecanismos internos de uma IA, maiores poderão ser as possibilidades de investigar comportamentos inesperados e identificar sinais de risco.

Até recentemente, uma das estratégias utilizadas para investigar o raciocínio dos modelos era acompanhar suas explicações em linguagem natural, conhecidas como chain of thought, ou cadeia de pensamento.

O método consiste em observar etapas intermediárias que o sistema apresenta ao responder a uma pergunta ou resolver um problema. Entretanto, esse tipo de explicação não garante, por si só, que o texto exibido represente fielmente todos os processos internos que produziram a resposta.

Jakub Pachocki, cientista-chefe da OpenAI, alertou recentemente que agentes de IA podem passar a ocultar ou disfarçar seu raciocínio apresentado em linguagem natural. Isso criaria dificuldades para os responsáveis por monitorar esses sistemas, especialmente se eles não conseguissem identificar quando uma explicação deixou de refletir o processo que levou à resposta.

Pachocki também observou que modelos podem se tornar mais capazes com o avanço do pré-treinamento, mesmo sem recorrer a um raciocínio verbalizado.

Nesse cenário, compreender diretamente os mecanismos internos das redes neurais poderia oferecer uma forma complementar de investigar como os modelos funcionam, sem depender exclusivamente das explicações que eles próprios produzem.

Pesquisa gera expectativa, mas não resolve o problema

A proposta de Cammarata despertou entusiasmo entre alguns observadores do setor. Andrew Curran, analista de IA, afirmou no X que havia perdido a esperança de alcançar um nível significativo de interpretabilidade antes da chegada da superinteligência artificial. Para ele, a pesquisa representa possível mudança de perspectiva.

A reação, porém, não deve ser confundida com comprovação definitiva da hipótese. O próprio tema envolve questões técnicas complexas, e o relatório ainda apresenta interpretação teórica sobre como os neurônios artificiais organizam informações.

Mesmo que a abordagem se mostre promissora, compreender padrões individuais não significa necessariamente explicar todo o comportamento de um modelo avançado, muito menos garantir que ele permanecerá sob controle humano.

A pesquisa aponta, portanto, para uma possibilidade importante: em vez de aceitar a opacidade das redes neurais como inevitável, cientistas podem conseguir avançar na compreensão de seus mecanismos internos. Para quem trabalha com segurança em IA, esse conhecimento pode ser decisivo para avaliar riscos e desenvolver formas mais eficazes de monitoramento.

O post Nova teoria pode ajudar cientistas a entender como a IA “pensa” apareceu primeiro em Olhar Digital.

Powered by WPeMatico

A Justiça dos Estados Unidos determinou que a OpenAI entregue documentos relacionados à contratação de ex-funcionários da Apple, em processo no qual a fabricante do iPhone acusa a empresa de inteligência artificial (IA) de se beneficiar de informações comerciais confidenciais.

A decisão, proferida nesta terça-feira (13), permite que a Apple tenha acesso antecipado a registros de entrevistas, mensagens privadas e outras evidências que podem ajudar a esclarecer as acusações.

O juiz federal Edward Davila, responsável pelo caso no Distrito Norte da Califórnia, concedeu parte dos pedidos apresentados pela Apple para acelerar a fase de produção de provas. A OpenAI terá cinco dias para entregar os materiais que já reuniu e 14 dias para apresentar os demais documentos abrangidos pela determinação.

A disputa está relacionada à contratação de antigos funcionários da Apple pela OpenAI, especialmente para equipes envolvidas no desenvolvimento de produtos de hardware e robótica. A empresa de Tim Cook suspeita que informações confidenciais sobre tecnologias e produtos ainda não lançados tenham sido obtidas e utilizadas indevidamente durante esse processo.

Quais documentos a OpenAI terá de entregar?

• A determinação judicial abrange diferentes categorias de materiais que podem ajudar a reconstruir como informações da Apple teriam circulado durante o recrutamento de funcionários;
• Entre os documentos solicitados estão listas de verificação, guias, instruções, manuais e roteiros utilizados nas entrevistas de candidatos provenientes da Apple para a equipe de produtos de hardware de consumo da OpenAI;
• A empresa também deverá apresentar apresentações técnicas e outros registros que documentem o conteúdo dessas entrevistas, incluindo eventuais referências a tecnologias, componentes e projetos da fabricante do iPhone;
• Outro ponto importante envolve as evidências digitais. A decisão prevê a entrega de imagens forenses de dispositivos já coletadas no contexto das acusações, além de conversas privadas trocadas pelo aplicativo de mensagens LINE entre Chang Liu e Alyssa Peng desde janeiro de 2026;
• O juiz também autorizou depoimentos antecipados de três ex-funcionários da Apple: Chang Liu, Alyssa Peng e Tang Yew Tan, atual diretor de hardware da OpenAI. Os depoimentos deverão ajudar a esclarecer as circunstâncias das contratações e o possível uso de informações confidenciais;
• A Apple argumenta que o acesso antecipado é necessário para compreender a extensão do suposto desvio de segredos comerciais e fundamentar seu pedido de medidas judiciais contra os envolvidos.

Apple acusa ex-funcionários de levar informações confidenciais

A Apple entrou com a ação em julho de 2026, alegando que antigos funcionários teriam obtido ou utilizado indevidamente informações relacionadas a produtos e tecnologias ainda não anunciados.

Entre as acusações estão o download de documentos técnicos confidenciais em computadores fornecidos pela Apple, a retenção de equipamentos corporativos após o desligamento e o compartilhamento de informações com outros profissionais interessados em trabalhar na OpenAI.

A fabricante também afirma que candidatos teriam sido orientados sobre quais conhecimentos estudar para entrevistas e que o processo de recrutamento teria sido usado para obter detalhes sobre projetos sigilosos, componentes e métodos de desenvolvimento.

Um dos nomes centrais da disputa é Tang Yew Tan, que trabalhou na Apple por 24 anos e ocupou o cargo de vice-presidente de design de produtos para o iPhone e o Apple Watch antes de ingressar na OpenAI. Chang Liu, outro ex-funcionário citado no processo, teria trabalhado durante oito anos na Apple como engenheiro sênior de sistemas elétricos.

A Apple sustenta que as informações envolvidas na disputa incluem especificações técnicas, apresentações de engenharia, dados de projetos proprietários e detalhes sobre tecnologias ainda não lançadas.

Essas alegações fazem parte do processo judicial e ainda não representam uma conclusão definitiva de que houve roubo de segredos comerciais.

Leia mais:

• OpenAI nega retaliação após demitir três pesquisadores de segurança
• OpenAI e Anthropic querem controlar relatórios de segurança da IA
• OpenAI encontra gravador escondido em escritório e funcionário é preso

Disputa envolve futuro dispositivo de hardware da OpenAI

O processo ocorre enquanto a OpenAI trabalha no desenvolvimento de produtos físicos voltados ao consumidor. A empresa adquiriu a startup io, ligada ao ex-chefe de design da Apple Jony Ive, em negócio anunciado em 2025 por US$ 6,5 bilhões (cerca de R$ 35 bilhões).

A iniciativa ampliou as ambições da OpenAI no mercado de hardware, em momento no qual a companhia busca levar suas tecnologias de inteligência artificial (IA) para além dos computadores e smartphones tradicionais.

A Apple considera que informações confidenciais sobre seus projetos podem ter sido incorporadas aos esforços de desenvolvimento da OpenAI. A disputa, portanto, não se limita à saída de profissionais de uma empresa para outra: envolve a possibilidade de utilização de conhecimentos protegidos por segredo comercial em produtos concorrentes.

A OpenAI, por sua vez, contestou as acusações e classificou o processo como infundado. A empresa também argumenta que a ação seria uma tentativa da Apple de compensar dificuldades na disputa por talentos do setor tecnológico.

Até agora, não há decisão definitiva sobre a existência de apropriação indevida de informações nem sobre o eventual impacto dessas informações nos produtos desenvolvidos pela OpenAI.

Juiz rejeita parte dos pedidos da Apple

Embora tenha autorizado o acesso antecipado a documentos de contratação, mensagens e evidências digitais, Davila não atendeu a todas as solicitações da Apple.

O juiz rejeitou o pedido para acelerar a entrega de documentos relacionados às pesquisas e ao desenvolvimento da OpenAI em áreas como acabamentos metálicos, gerenciamento de energia e funcionamento de baterias para dispositivos de consumo.

Esses materiais poderão ser solicitados durante a fase regular de produção de provas, mas não terão o mesmo tratamento prioritário concedido aos registros de entrevistas e às demais evidências previstas na decisão.

O magistrado também deixou em aberto alguns pedidos mais amplos relacionados ao que a Apple chama de informações originadas na própria empresa. Segundo a decisão, a definição apresentada era vaga demais e poderia impor uma tarefa excessivamente onerosa à OpenAI. A Apple poderá tentar reformular o pedido para torná-lo mais específico.

A decisão sobre a produção antecipada de provas ocorre às vésperas de audiência marcada para discutir o pedido da OpenAI para encerrar o processo e a solicitação da Apple por uma liminar que impeça o uso dos segredos comerciais supostamente envolvidos.

A disputa judicial ainda está em andamento. Os documentos e depoimentos autorizados poderão ampliar o conjunto de evidências disponível às partes, mas não determinam, por si só, o resultado final do caso.

O post Justiça obriga OpenAI a entregar documentos de contratação em processo da Apple apareceu primeiro em Olhar Digital.

Powered by WPeMatico

O rover Perseverance, da NASA, estabeleceu um novo recorde de distância percorrida em Marte, ao ultrapassar 28,06 milhas (cerca de 45,2 quilômetros) desde sua chegada ao planeta, em fevereiro de 2021. A marca foi atingida no domingo (11), na região da cratera Jezero, e anunciada na segunda-feira (12) pelo Laboratório de Propulsão a Jato (JPL), responsável pela operação do veículo.

Com o resultado, o robô superou a distância percorrida pelo Opportunity, outro rover da NASA que explorou Marte entre 2004 e 2018. O avanço do Perseverance, porém, não ocorreu tão cedo quanto a equipe esperava. A missão precisou desviar sua rota para investigar rochas claras que podem estar entre as mais antigas já estudadas no planeta, o que adiou a conquista por cerca de dois meses.

Tecnologia autônoma ajuda rover a percorrer Marte

Uma das características do Perseverance é a capacidade de planejar parte de seus deslocamentos de forma autônoma. Assim como alguns carros modernos na Terra, o veículo consegue encontrar caminhos entre dois pontos sem depender de instruções detalhadas para cada trecho enviadas por equipes terrestres.

O rover também conta com um chip de computador mais rápido que o utilizado em seu antecessor, o Curiosity, que chegou a Marte mais de oito anos antes e percorreu uma distância menor. A tecnologia representa um avanço em relação ao Sojourner, primeiro rover robótico da NASA, que se deslocou apenas 341 pés (cerca de 104 metros) ao longo de 12 semanas, em 1997, e dependia de comandos específicos enviados da Terra.

Nos primeiros meses da missão, o Perseverance explorou o terreno da cratera Jezero. O local tem cerca de 30 milhas de largura e, quando Marte era mais quente e úmido, abrigou um lago. A região foi escolhida para a missão por seu potencial de preservar vestígios orgânicos que possam ajudar a investigar se já existiu vida no planeta.

De um helicóptero a rochas com bilhões de anos

A missão também contou com o Ingenuity, um pequeno helicóptero transportado na parte inferior do Perseverance. Depois de ser liberado na superfície marciana, o equipamento realizou os primeiros voos controlados e motorizados em outro planeta. Inicialmente previsto para uma série de testes, o helicóptero acabou acompanhando a exploração do rover e completou 72 voos, até que uma de suas pás se quebrou em janeiro de 2024.

Em abril de 2022, o Perseverance chegou a um antigo delta de rio na cratera Jezero. Mais recentemente, deixou a região e passou a investigar rochas com aproximadamente quatro bilhões de anos em Lac de Charmes. A área recebeu esse nome em referência a um reservatório na França.

Entre os materiais encontrados estão rochas claras chamadas gabros, semelhantes ao basalto em composição, mas formadas provavelmente em maiores profundidades, onde o magma teve mais tempo para esfriar e formar cristais maiores. Os cientistas identificaram sinais de derretimento intenso e impactos nessas rochas, que podem ter se originado de três eventos distintos envolvendo meteoritos.

A equipe tentou perfurar uma dessas formações para coletar uma amostra, mas a rocha era dura demais. Mesmo assim, a investigação continua, já que os materiais podem oferecer informações sobre os primeiros 500 milhões de anos do Sistema Solar.

NASA quer ampliar a distância certificada do rover

Antes do lançamento, a NASA havia certificado o Perseverance para percorrer 20 quilômetros. Como o veículo já ultrapassou essa distância, a agência trabalha para ampliar a certificação para 100 quilômetros, pouco mais de 62 milhas.

Ainda não há um plano de longo prazo definido para o rover depois que ele terminar o levantamento da região atual. A NASA também precisará decidir o destino das amostras armazenadas pelo equipamento.

O projeto Mars Sample Return, que previa trazer esse material para a Terra em uma colaboração com a Agência Espacial Europeia, foi cancelado por ser considerado caro demais. A NASA poderia retomar a iniciativa por meio de uma missão comercial, mas não anunciou planos nesse sentido.

O post Rover da NASA bate recorde de distância percorrida em Marte apareceu primeiro em Olhar Digital.

Powered by WPeMatico