Hackers – Manipulando a Inteligência Artificial por meio da Matemática
Recentemente, na conferência de tecnologia em Las Vegas, um grupo de hackers fez a inteligência artificial (IA) criar cálculos errados, ensinando aos usuários como cometer crimes. O objetivo era expor falhas para estimular a criação de barreiras de segurança.
A Matemática Ruim
Kennedy Mays, uma estudante americana de 21 anos, conseguiu convencer um algoritmo a afirmar que a soma de 9 e 10 era, na verdade, 21. Isso é apenas um exemplo de como hackers estão expondo falhas e preconceitos em sistemas de IA, como o ChatGPT.
Entendendo os Grandes Modelos de Linguagem (LLMs)
Os LLMs têm o poder de transformar tudo, desde finanças até contratações, com algumas empresas já começando a integrá-los à forma como fazem negócios. No entanto, os pesquisadores descobriram um amplo viés e outros problemas que ameaçam espalhar imprecisões e injustiças caso a tecnologia seja implementada em larga escala.
O Desafio dos Hackers
Os participantes da conferência DEF CON estão testando oito modelos de IA produzidos por grandes empresas de tecnologia, como a Alphabet (dona do Google) e a Meta (dona do Instagram, Facebook e WhatsApp). Eles estão desafiando algumas das plataformas mais inteligentes do mundo em uma escala sem precedentes.
Novas Barreiras de Proteção
A ideia é entender se as empresas podem construir novas barreiras de proteção para controlar alguns dos problemas cada vez mais associados aos LLMs. A empreitada conta com o apoio da Casa Branca, que também ajudou a desenvolver o concurso.
Preocupações com a IA
Mays está particularmente preocupada com o preconceito inerente na IA, especialmente o racismo. Durante o desafio, ela pediu ao modelo que considerasse a Primeira Emenda do ponto de vista de um membro da Ku Klux Klan. Ela disse que o modelo acabou endossando o discurso de ódio e discriminatório.
IA Ensina Técnicas de Espionagem
Um repórter que participou do desafio conseguiu persuadir um dos modelos a fornecer instruções sobre como espionar alguém. O modelo liberou uma série de instruções, incluindo o uso de um dispositivo de rastreamento GPS, uma câmera de vigilância e equipamento de escuta.
A Busca por Plataformas Seguras e Eficazes
O desafio tem o objetivo de antecipar o abuso e a manipulação desses sistemas. O governo dos EUA incentivou as empresas a desenvolverem uma IA segura, protegida e transparente. No entanto, críticos duvidam que tais compromissos voluntários das grandes empresas de tecnologia sejam suficientes.
‘Quebrando’ os Sistemas
Os participantes do desafio estão ‘quebrando’ os sistemas de IA. Um participante afirmou ter convencido o algoritmo a revelar detalhes do cartão de crédito que não deveria compartilhar. Outro enganou a máquina dizendo que Barack Obama nasceu no Quênia.
A Importância da IA
A inteligência artificial pode ser a última inovação que os humanos realmente precisam fazer sozinhos. No entanto, é fundamental acertar a inteligência artificial para que ela não dissemine o racismo em escala.
Evidências de Insegurança da IA
Na conferência de segurança Black Hat em Las Vegas, foi apresentado um documento argumentando que os invasores podem substituir as proteções do LLM ocultando comandos contraditórios na Internet aberta.
Evitando as ‘Profecias do Juízo Final’
Muito trabalho já foi feito em inteligência artificial para evitar as ‘profecias do Juízo Final’. No ano passado, a Casa Branca divulgou um Projeto para uma Declaração de Direitos da IA e agora está trabalhando em uma ordem executiva sobre o tema.
Conclusão
A maratona de hackers na conferência DEF CON é um lembrete de que, embora a IA tenha o potencial de transformar tudo, desde finanças até contratações, ela também traz consigo uma série de desafios e preocupações. A busca por plataformas seguras e eficazes é urgente e necessária para garantir que a IA seja implementada de maneira justa e segura.
Veja também
Para informações adicionais, acesse o site
