A Microsoft e outros proíbem o uso de seus sistemas generativos de IA para criar uma variedade de conteúdo. Conteúdo irrestrito inclui material que retrata ou promove exploração ou abuso sexual, é erótico ou pornográfico, ou ataca, denigre ou exclui pessoas com base em raça, etnia, origem nacional, gênero, identidade de gênero, orientação sexual, religião, idade, status de deficiência ou similar características. Também não permite conteúdo que contenha ameaças, intimidação, defesa de lesões corporais ou outro comportamento abusivo.
Além de proibir expressamente esse uso de sua plataforma, a Microsoft desenvolveu salvaguardas que inspecionam tanto os avisos inseridos pelos usuários quanto a saída em busca de sinais de que o conteúdo solicitado viola algum desses termos. Essas restrições baseadas em código foram repetidamente contornadas por meio de hacks nos últimos anos benigno e conduzido por pesquisadores e outros ameaças maliciosas.
A Microsoft não descreveu exatamente como o software dos réus foi supostamente projetado para contornar as proteções integradas da empresa.
Massada escreveu:
Os serviços de IA da Microsoft usam fortes medidas de segurança, incluindo mitigações de segurança integradas no modelo de IA, plataforma e nível de aplicativo. Conforme alegado nos processos judiciais que estamos revelando hoje, a Microsoft observou um grupo de agentes de ameaças localizados em países estrangeiros desenvolvendo software sofisticado que explorava credenciais de clientes extraídas de sites públicos. Ao fazê-lo, procuraram identificar e aceder ilegalmente a contas com determinados serviços generativos de IA e alterar deliberadamente as capacidades desses serviços. Os cibercriminosos usaram então esses serviços e revenderam o acesso a outros atores mal-intencionados com instruções detalhadas sobre como usar essas ferramentas personalizadas para criar conteúdo prejudicial e ilegal. Após a descoberta, a Microsoft revogou o acesso dos cibercriminosos, implementou contramedidas e reforçou as suas defesas para bloquear ainda mais tais atividades maliciosas no futuro.
O processo alega que o serviço dos réus violou a Lei de Fraude e Abuso de Computadores, a Lei de Direitos Autorais do Milênio Digital, a Lei Lanham e a Lei de Organizações Corruptas e Influenciadas por Racketeers, e constitui fraude eletrônica, fraude de dispositivos de acesso, violações de direito consuetudinário e atos ilícitos. interferência. A denúncia busca uma liminar que proíba os réus de se envolverem em “qualquer atividade aqui”.
