O Parlamento Europeu votou na quarta-feira pela adoção da Lei da IA, assegurando a posição de liderança do bloco no estabelecimento de regras para uma ampla gama de software alimentado por inteligência artificial – ou o que os legisladores regionais apelidaram de “a primeira lei abrangente de IA do mundo”.
Os eurodeputados apoiaram esmagadoramente o acordo provisório alcançado em dezembro nas negociações do trílogo com o Conselho, com 523 votos a favor contra apenas 46 contra (e 49 abstenções).
A legislação histórica estabelece um quadro baseado no risco para a IA; aplicando várias regras e requisitos dependendo do nível de risco associado ao caso de uso.
A votação plenária do parlamento de hoje segue-se aos votos afirmativos da comissão e ao acordo provisório que obteve o apoio de todos os 27 embaixadores dos Estados-Membros da UE no mês passado. O resultado do plenário significa que a Lei da IA está a caminho de se tornar lei em toda a região – faltando apenas uma aprovação final do Conselho.
Uma vez publicada no Jornal Oficial da UE nos próximos meses, a Lei da IA entrará em vigor 20 dias depois. Embora haja uma implementação em fases, com o primeiro subconjunto de disposições (casos de uso proibidos) entrando em vigor após seis meses; com outros solicitando após 12, 24 e 36 meses. A implementação total não é, portanto, esperada até meados de 2027.
No que diz respeito à aplicação, as sanções por incumprimento podem atingir 7% do volume de negócios anual global (ou 35 milhões de euros, se for superior) por violação da proibição de utilizações proibidas de IA. Embora as violações de outras disposições relativas aos sistemas de IA possam implicar sanções até 3% (ou 15 milhões de euros). A falta de cooperação com os órgãos de fiscalização acarreta o risco de multas de até 1%.
Falando durante um debate na terça-feira, antes da votação em plenário, Dragoș Tudorache, eurodeputado e co-relator da Lei da IA, disse: “Anexamos para sempre ao conceito de inteligência artificial os valores fundamentais que constituem a base das nossas sociedades. E só com isso, a Lei da IA empurrou o futuro da IA em uma direção centrada no ser humano. Numa direção em que os humanos controlam a tecnologia e onde ela, a tecnologia, nos ajuda a alavancar novas descobertas, o crescimento económico, o progresso social e a desbloquear o potencial humano.”
O co-relator do AI Act, Dragoș Tudorache, dá sinal positivo ao resultado da votação plenária no Parlamento Europeu (Screengrab: Natasha Lomas/TechCrunch)
A proposta baseada no risco foi apresentada pela primeira vez pela Comissão Europeia em abril de 2021. Foi então substancialmente alterada e ampliada pelos colegisladores da UE no Parlamento e no Conselho, ao longo de um processo de negociação plurianual, culminando na conclusão de um acordo político. após a maratona de negociações finais em dezembro.
De acordo com a lei, vários casos potenciais de uso de IA são considerados “risco inaceitável” e totalmente proibidos (como pontuação social ou manipulação subliminar). A lei também define um conjunto de aplicações de “alto risco” (como a IA utilizada na educação ou no emprego, ou para biometria remota). Estes sistemas devem ser registados e os seus desenvolvedores são obrigados a cumprir as disposições de gestão de risco e qualidade previstas na lei.
A abordagem baseada no risco da UE deixa a maioria das aplicações de IA fora da lei, uma vez que são consideradas de baixo risco — sem aplicação de regras rígidas. Mas a legislação também impõe algumas obrigações de transparência (leves) a um terceiro subconjunto de aplicações, incluindo chatbots de IA; ferramentas generativas de IA que podem criar mídia sintética (também conhecidas como deepfakes); e modelos de IA de uso geral (GPAI). Os GPAIs mais poderosos enfrentam regras adicionais se forem classificados como tendo o chamado “risco sistémico” – a barreira para as obrigações de gestão de risco que aí entram em vigor.
As regras para GPAIs foram um acréscimo posterior à Lei de IA, impulsionada por eurodeputados preocupados. No ano passado, os legisladores no parlamento propuseram um sistema escalonado de requisitos destinado a garantir que a onda avançada de modelos responsáveis pelo recente boom de ferramentas generativas de IA não escapasse à regulamentação.
No entanto, um punhado de Estados-Membros da UE, liderados pela França, pressionou na direcção oposta – alimentados pelo lobby de startups locais de IA (como a Mistral) – pressionando por uma exclusão regulamentar para os fabricantes de modelos avançados de IA, argumentando que a Europa deveria concentrar-se na expansão campeões nacionais no campo de rápido desenvolvimento para evitar ficar para trás na corrida global da IA.
Perante um lobby feroz, o compromisso político alcançado pelos legisladores em Dezembro diluiu a proposta original dos eurodeputados para regulamentar os GPAI.
Não concedeu uma exclusão total da lei, mas a maioria destes modelos enfrentará apenas requisitos de transparência limitados. Somente os GPAIs cujo treinamento utilizou poder de computação superior a 10^25 FLOPs é que provavelmente terão que realizar avaliação e mitigação de riscos em seus modelos.
Desde o acordo de compromisso, também se descobriu que a Mistral recebeu investimentos da Microsoft. A gigante da tecnologia dos EUA detém uma participação muito maior na OpenAI, fabricante do ChatGPT com sede nos EUA.
Durante uma conferência de imprensa hoje antes da votação em plenário, os co-relatores foram questionados sobre o lobby de Mistral – e se a startup tinha conseguido enfraquecer as regras da UE para os GPAIs. “Acho que podemos concordar que os resultados falam por si”, respondeu Brando Benifei. “A legislação define claramente as necessidades de segurança dos modelos mais potentes com critérios claros… Penso que apresentámos um quadro claro que garantirá a transparência e os requisitos de segurança para os modelos mais potentes.”
Tudorache também rejeitou a sugestão de que os lobistas influenciaram negativamente a forma final da lei. “Negociamos e assumimos os compromissos que consideramos razoáveis”, disse ele, classificando o resultado como um equilíbrio “necessário”. “O comportamento e o que as empresas escolhem fazer – são decisões suas – e não impactaram, de forma alguma, o trabalho.”
“Havia interesse de todos aqueles que desenvolvem esses modelos em manter uma ‘caixa preta’ no que diz respeito aos dados que vão para esses algoritmos”, acrescentou. “Considerando que promovemos a ideia de transparência, especialmente para material protegido por direitos autorais, porque pensamos que é a única maneira de dar efeito aos direitos dos autores por aí.”
Benifei também apontou a adição de requisitos de relatórios ambientais na Lei de IA como outra vitória.
Os legisladores acrescentaram que a Lei da IA representa o início de uma jornada para a governação da IA na UE – sublinhando que o modelo terá de evoluir e ser alargado com legislação adicional no futuro, com Benifei apontando para a necessidade de uma directiva para estabelecer regras para o uso de IA no local de trabalho.
Também são necessários trabalhos para melhorar as condições para investimentos em IA, disse ele. “Queremos que a Europa invista na inteligência artificial. Fazer mais pela pesquisa comum. Fazer mais no compartilhamento da capacidade computacional. O trabalho dos supercomputadores… Será importante sublinhar também a necessidade de concluir a União dos Mercados de Capitais — porque precisamos de ser capazes de investir na IA com mais [ease] do que hoje. Arriscamos hoje que alguns investidores prefiram investir nos EUA do que noutro país europeu, noutra empresa europeia.”
“Esta Lei é apenas o começo de uma jornada mais longa, porque a IA terá um impacto que não podemos medir apenas através desta Lei de IA – terá um impacto nos sistemas educacionais, terá um impacto em nossos mercado de trabalho, terá um impacto na guerra”, acrescentou Tudorache. “Portanto, há um mundo totalmente novo que se abre onde a IA desempenhará um papel central e, portanto, a partir deste ponto, à medida que também construirmos a governança que resulta da Lei, teremos estar muito atento a esta evolução da tecnologia no futuro. E esteja preparado para responder aos novos desafios que possam surgir desta evolução da tecnologia.”
Tudorache também reiterou o seu apelo no ano passado para um trabalho conjunto na governação da IA entre governos com ideias semelhantes e, de forma ainda mais ampla, onde quer que possam ser forjados acordos.
“Ainda temos o dever de tentar ser o mais interoperáveis possível – estar abertos à construção de uma governação com o maior número de democracias, com o maior número de parceiros com ideias semelhantes. Porque a tecnologia é umindependentemente do bairro em que se encontra. Portanto, temos de investir na integração desta governação num quadro que faça sentido.”
Link do Autor
