Nesta primavera, o Colorado aprovou a primeira lei abrangente do país sobre como empresas e governos usam inteligência artificial para tomar decisões importantes sobre a vida das pessoas.
“Se (as pessoas) terão seguro, ou qual é a taxa do seu seguro, ou decisões legais ou decisões de emprego, se você será demitido ou contratado, pode depender de um algoritmo de IA”, alerta a deputada estadual democrata Brianna Titone, uma das principais patrocinadoras legislativas do projeto de lei.
A lei não visa falsificações profundas ou fraudes, que alguns estados, incluindo o Colorado, abordaram em outras leis, mas se aplica à forma como a IA é usada na avaliação de pessoas para coisas como inscrições em escolas, contratações, empréstimos, acesso a cuidados de saúde ou seguros.
Entra em vigor em 2026 e exige que as empresas e algumas agências governamentais informem as pessoas quando um sistema de IA for usado. Se alguém pensa que a tecnologia o tratou injustamente, a lei permite-lhe corrigir os dados que está a utilizar ou apresentar uma reclamação. Ele estabelece um processo para investigar maus atores.
“Se você foi demitido por um processo de IA e disser: ‘Bem, isso é impossível, não há como eu ser demitido por isso’”, disse Titone, “você pode encontrar uma resolução através do gabinete do procurador-geral para dizer: ‘ Precisamos de alguém para intervir e verificar se este processo realmente não discriminou e não teve preconceito contra essa pessoa.’”
Ela disse que, em alguns casos, descobriu-se que a IA dá às pessoas uma vantagem com base em seus nomes ou hobbies, como “se seu nome for Jared e você jogar lacrosse”.
O deputado estadual democrata Manny Rutinel, outro patrocinador, disse que algumas disposições exigem que as empresas identifiquem como os algoritmos podem levar à discriminação e divulguem como os dados são usados para treinar os sistemas.
“Ainda temos muito que fazer”, disse Rutinel. “Mas acho que este é um grande primeiro passo, um primeiro passo realmente significativo e robusto para garantir que a tecnologia funcione para todos, não apenas para alguns privilegiados.”
A iniciativa do Colorado está sendo observada por outros estados
A lei do Colorado originou-se de uma proposta semelhante apresentada em Connecticut no início deste ano, que não foi aprovada lá. Outros lugares instituíram políticas mais restritas. A cidade de Nova Iorque exige que os empregadores que utilizam tecnologias de IA realizem “auditorias tendenciosas” independentes em algumas ferramentas de software e as partilhem publicamente.
“Portanto, os estados estão claramente a olhar uns para os outros para ver como podem colocar a sua própria marca na regulamentação”, disse Helena Almeida, vice-presidente e consultora administrativa da ADP, que desenvolve serviços de folha de pagamento de IA para uma série de grandes empresas.
“Definitivamente terá um impacto em todos os empregadores e implantadores de sistemas de IA”, disse Almeida sobre a lei do Colorado.
Matt Scherer, advogado do Centro para Democracia e Tecnologia, disse que as empresas têm utilizado vários sistemas automáticos, nem mesmo chamados de IA, para tomar decisões trabalhistas pelo menos nos últimos oito anos.
“Nós realmente temos tão pouco insight sobre como as empresas estão usando IA para decidir quem consegue empregos, quem obtém promoções, quem tem acesso a um apartamento ou uma hipoteca ou uma casa ou assistência médica. E essa é uma situação que simplesmente não é sustentável porque, novamente, essas decisões estão tomando aspectos cruciais que causam grandes impactos na vida das pessoas”, ele disse.
Mas ele está preocupado que a lei do Colorado não permita que indivíduos tenham o direito específico de processar por danos relacionados à IA.
“Definitivamente, há muitas preocupações entre os sindicatos e as organizações da sociedade civil de que este projeto de lei simplesmente não tem força suficiente para realmente forçar as empresas a mudarem as suas práticas.”
Os planos para mudar a lei já estão em andamento – é apenas o começo
Quando o governador democrata Jared Polis assinou o SB24-205 em maio, ele disse aos legisladores que o fez com reservas, escrevendo: “Estou preocupado com o impacto que esta lei pode ter em uma indústria que está alimentando avanços tecnológicos críticos em nosso estado para os consumidores e empresas.”
Ele disse que é melhor decidir pelo governo federal para que haja uma abordagem nacional e condições de concorrência equitativas.
No entanto, Polis disse que espera que a lei do Colorado promova a discussão sobre IA, especialmente a nível nacional, e pediu aos legisladores que a refinem antes de entrar em vigor. Uma força-tarefa estadual se reunirá em setembro para fazer recomendações em fevereiro. A Polis delineou áreas de preocupação e pediu-lhes que concentrassem as regulamentações nos desenvolvedores de software, e não nas pequenas empresas que usam sistemas de IA.
Polis disse que a lei poderia ser usada para atingir aqueles que usam IA, mesmo quando não for intencionalmente discriminatório.
“Quero deixar claro meu objetivo de garantir que o Colorado continue sendo o lar de tecnologias inovadoras e que nossos consumidores tenham acesso total a produtos importantes baseados em IA”, escreveu ele.
A indústria está observando esta lei e outras que possivelmente virão
Michael Brent, do Boston Consulting Group, trabalha com empresas no desenvolvimento e implantação de sistemas de IA para identificar e tentar mitigar as maneiras como a IA pode prejudicar as comunidades.
“As empresas têm o desejo de construir sistemas mais rápidos, mais baratos, mais precisos, mais confiáveis e menos prejudiciais ao meio ambiente”, ele disse. Ele disse que a lei do Colorado poderia encorajar a transparência para pessoas afetadas pela IA.
“Eles podem entrar naquele espaço onde estão tendo aquele momento de reflexão crítica e podem simplesmente dizer para si mesmos: ‘Quer saber? Na verdade, não quero que um sistema de aprendizado de máquina processe meus dados nesta conversa. Eu preferiria cancelar fechando a janela ou ligando para um ser humano, se puder.’”
Apesar de todo o foco na criação de regulamentações abrangentes, o deputado democrata Titone disse que o Colorado está apenas começando a entender a indústria de tecnologia.
“Temos que ser capazes de comunicar e entender quais são essas questões e como elas podem ser abusadas e mal utilizadas.”
Bente Birkeland cobre o governo estadual para a CPR News.
