A Microsoft e a OpenAI anunciaram um fundo de 2 milhões de dólares para combater os riscos crescentes de IA e deepfakes serem usados para “enganar os eleitores e minar a democracia”.
Este ano veremos um recorde de 2 bilhões de pessoas vão às urnas em eleições que abrangem cerca de 50 países, pelo que existem preocupações em torno da influência que a IA terá entre os eleitores – especialmente aqueles em “comunidades vulneráveis” que podem ser mais susceptíveis de aceitar o que vêem pelo valor nominal.
A ascensão da IA generativa, incluindo chatbots extremamente populares como o ChatGPT, levou a um novo e importante cenário de ameaças envolvendo “deepfakes” gerados por IA, concebidos para perpetuar a desinformação. Não ajuda o fato de essas novas ferramentas estarem amplamente disponíveis e permitirem que qualquer pessoa crie vídeos, fotos ou áudio falsos de entidades políticas de alto perfil.
Ainda na segunda-feira, a Comissão Eleitoral da Índia instou os partidos políticos a evitarem o uso de deepfakes e desinformação semelhante nas suas campanhas online em torno das eleições.
É neste contexto que todas as grandes empresas tecnológicas, incluindo a Microsoft e a OpenAI, assinaram compromissos voluntários para combater tais riscos, bem como fizeram planos para construir uma estrutura comum para lidar com deepfakes criados explicitamente para enganar os eleitores.
Noutros lugares, as principais empresas de IA começaram a enfrentar estes riscos introduzindo restrições no seu software. Por exemplo, o Google disse que não permitirá que seu chatbot Gemini AI responda a perguntas sobre eleições, enquanto o Meta, pai do Facebook, também está limitando as respostas relacionadas às eleições por meio de seu chatbot AI.
O novo “fundo de resiliência social” da Microsoft e OpenAI se esforça para “promover a educação e a alfabetização em IA entre eleitores e comunidades vulneráveis”, de acordo com para uma postagem de blog as empresas publicaram hoje. Isso envolveria a emissão de subsídios para um punhado de organizações, incluindo Serviços de Tecnologia para Idosos (AVEIA), a Coalizão para Proveniência e Autenticidade de Conteúdo (C2PA), Instituto Internacional para a Democracia e Assistência Eleitoral (IDEIA Internacional) e Parceria em IA (PAI).
Segundo a Microsoft, estas subvenções destinam-se a criar uma melhor compreensão da IA e das suas capacidades em toda a sociedade. Por exemplo, a OATS irá aparentemente utilizar a sua subvenção para programas de formação destinados a pessoas com 50 anos ou mais nos EUA, abrangendo os “aspectos fundamentais da IA”.
“O lançamento do Fundo de Resiliência Social é apenas um passo que representa o compromisso da Microsoft e da OpenAI em enfrentar os desafios e necessidades no espaço educacional e de alfabetização em IA”, disse Teresa Hutson, vice-presidente corporativa de tecnologia e responsabilidade corporativa da Microsoft, na postagem do blog. . “A Microsoft e a OpenAI permanecerão dedicadas a este trabalho e continuaremos a colaborar com organizações e iniciativas que partilham os nossos objetivos e valores.”
Link do Autor
