A OpenAI confirmou ter removido da sua plataforma contas que estariam a ser usadas por entidades governamentais, de forma a abusar das capacidades do ChatGPT. Estas contas teriam ligações com entidades governamentais do Irão, Coreia do Norte, China e Rússia, estando a usar a plataforma em violação dos termos de serviço da mesma.
Estas entidades teriam ligações com grupos de hacking, que estavam a usar os modelos LLM da OpenAI para desenvolverem código potencialmente malicioso, ou que poderia ser usado para ataques. Esta medida foi realizada depois de uma investigação da Microsoft, onde se veio a descobrir que grupos apoiados por entidades governamentais estariam a usar o ChatGPT para estas atividades.
Entre os grupos identificados de hackers encontram-se o Forest Blizzard (Strontium) da Rússia, Emerald Sleet (Thallium) da Coreia do Norte, Crimson Sandstorm (Curium) do Irão, Charcoal Typhoon (Chromium) da China e Salmon Typhoon (Sodium) da China.
Estes grupos estariam a usar as ferramentas da OpenAI para desenvolverem técnicas mais avançadas para os seus ataques, desde melhorias em código de malware existente a criação de conteúdos para engenharia social, de forma a enganar as potenciais vítimas de forma mais convincente.
Não existem indícios que os modelos LLM tenham sido usados diretamente para criar malware por completo, mas partes do código podem ter sido adaptados ou melhorados usando as ferramentas de IA da OpenAI.
A OpenAI afirma ainda que irá tomar medidas para prevenir que situações similares voltem a ocorrer no futuro, aplicando sobretudo medidas mais rigorosas de análise para a forma como determinadas contas se encontram a usar a plataforma de IA da empresa, e regras mais especificas para os filtros da IA.
Nenhum comentário
Seja o primeiro!