De Quem é a Responsabilidade?

À medida que a inteligência artificial assume um papel maior em decisões que afetam pessoas, organizações e serviços, surge uma questão inevitável: quem responde quando algo dá errado? Este livro examina como a responsabilidade algorítmica envolve desenvolvedores, empresas, fornecedores, gestores e usuários, mostrando por que a participação de muitas pessoas em um sistema não pode servir para que, no final, ninguém seja responsabilizado.

Antes de qualquer resultado produzido por uma IA, existem escolhas humanas. Alguém selecionou os dados, definiu objetivos, desenvolveu ou comprou o sistema, decidiu como utilizá-lo e estabeleceu formas de supervisão. Compreender essa cadeia ajuda a perceber por que dizer que “a máquina decidiu” pode esconder decisões e responsabilidades que continuam pertencendo a pessoas e instituições.

A obra também discute um problema menos evidente: quanto mais confiável um sistema parece, maior pode ser a tendência de confiar nele sem questionamento. Nesse cenário, a supervisão humana pode existir apenas no papel. Ter uma pessoa encarregada de confirmar uma recomendação automática não garante que ela tenha informações, autonomia ou condições reais para discordar e intervir.

Ao abordar prestação de contas, prevenção, riscos previsíveis e os conflitos entre eficiência e cuidado, o livro propõe critérios para identificar responsabilidades antes que os problemas aconteçam e depois que um dano já ocorreu.