Os atores de ameaças, alguns provavelmente com sede na China e no Irã, estão formulando novas maneiras de seqüestrar e utilizar modelos de inteligência artificial americana (IA) de intenção maliciosa, incluindo operações de influência secreta, de acordo com um novo relatório do OpenAI.
O relatório de fevereiro inclui duas interrupções envolvendo atores de ameaças que parecem ter se originado da China. Segundo o relatório, esses atores usaram, ou pelo menos tentaram usar modelos construídos pelo OpenAI e Meta.
Em um exemplo, o OpenAI proibiu uma conta de chatgpt que gerou comentários críticos do Cai Xia dissidente chinês. Os comentários foram publicados nas mídias sociais por contas que afirmavam ser pessoas com sede na Índia e nos EUA, no entanto, essas postagens não pareciam atrair engajamento on -line substancial.
Esse mesmo ator também usou o serviço ChatGPT para gerar artigos de notícias espanhóis de formato longo que “denegavam” os EUA e foram posteriormente publicados pelos principais meios de comunicação na América Latina. As linhas dessas histórias foram atribuídas a um indivíduo e, em alguns casos, uma empresa chinesa.
China, Irã e Rússia condenados por dissidentes na cúpula de Genebra do UN Watchdog.
Os atores de ameaças em todo o mundo, incluindo aqueles com sede na China e no Irã, estão encontrando novas maneiras de utilizar os modelos americanos de IA para intenção maliciosa. (Bill Hinton/Philip Fong/Afp/Maksim Konstantinov/Sopa Images/Lightrocket via Getty Images)
Durante um recente briefing da imprensa que incluiu a Fox News Digital, Ben Nimmo, investigador principal da equipe de inteligência e investigações da OpenAI, disse que uma tradução foi listada como conteúdo patrocinado em pelo menos uma ocasião, sugerindo que alguém pagou por isso.
O Openai diz que esta é a primeira instância em que um ator chinês plantou com sucesso artigos de forma longa na grande mídia para atingir o público latino-americano com narrativas anti-EUA.
“Sem uma visão desse uso da IA, não poderíamos fazer a conexão entre os tweets e os artigos da web”, disse Nimmo.
Ele acrescentou que os atores de ameaças às vezes dão ao Openai um vislumbre do que estão fazendo em outras partes da Internet por causa de como eles usam seus modelos.
“Este é um vislumbre bastante preocupante da maneira como um ator não democrático tentou usar a IA democrática ou baseada nos EUA para fins não democráticos, de acordo com os materiais que eles estavam se gerando”, continuou ele.
O que é inteligência artificial (AI)?
A bandeira da China está levada atrás de um par de câmeras de vigilância fora dos escritórios do governo central em Hong Kong, China, na terça -feira, 7 de julho de 2020. A líder de Hong Kong, Carrie Lam, defendeu a legislação de segurança nacional imposta na cidade pela China na semana passada, horário Depois que seu governo afirmou amplos novos poderes policiais, incluindo buscas sem garantia, vigilância on-line e crises de propriedade. (Roy Liu/Bloomberg via Getty Images)
A empresa também proibiu uma conta CHATGPT que gerou tweets e artigos que foram publicados em ativos de terceiros ligados publicamente ao iOS iraniano conhecido (entrada/saída). O IO é o processo de mover dados entre um computador e o mundo exterior, incluindo o movimento de áudio, vídeo, software e texto.
Essas duas operações foram relatadas como esforços separados.
“A descoberta de uma sobreposição potencial entre essas operações – embora pequena e isolada – levanta uma questão sobre se há um nexo de cooperação entre essas ios iranianos, onde um operador pode trabalhar em nome do que parece ser redes distintas”, a ameaça estados do relatório.
Em outro exemplo, o OpenAI proibiu um conjunto de contas de chatgpt que estavam usando modelos OpenAI para traduzir e gerar comentários para uma rede de iscas de romance, também conhecida como “açougueiro de porco”, em plataformas como X, Facebook e Instagram. Depois de relatar essas descobertas, a Meta indicou que a atividade parecia se originar de um “recém -acordado composto de fraude no Camboja.
O que é a startup de IA chinesa Deepseek?
O logotipo do OpenAi ChatGPT é visto em um telefone celular nesta ilustração fotográfica em 30 de maio de 2023 em Varsóvia, Polônia. ((Foto de Jaap Arriens/Nurphoto via Getty Images))
No ano passado, o OpenAI se tornou o primeiro laboratório de pesquisa de IA a publicar relatórios sobre esforços para evitar abusos por adversários e outros atores maliciosos, apoiando os EUA, governos aliados, parceiros da indústria e partes interessadas.
O Openai diz que expandiu bastante suas capacidades de investigação e a compreensão de novos tipos de abuso desde que seu primeiro relatório foi publicado e interrompeu uma ampla gama de usos maliciosos.
A empresa acredita, entre outras técnicas de interrupção, que as empresas de IA podem obter informações substanciais sobre os atores de ameaças se as informações forem compartilhadas com provedores a montante, como provedores de hospedagem e software, bem como plataformas de distribuição a jusante (empresas de mídia social e pesquisadores de código aberto ).
Clique aqui para obter o aplicativo Fox News
O Openai enfatiza que suas investigações também se beneficiam muito do trabalho compartilhado por colegas.
“Sabemos que os atores de ameaças continuarão testando nossas defesas. Estamos determinados a continuar identificando, prevenindo, interrompendo e expondo tentativas de abusar de nossos modelos para fins prejudiciais”, afirmou o Openai no relatório.
Nikolas Lanum é repórter da Fox News Digital.
