Direito & Formação Humanística

Sistemas de Inteligência Artificial estão sendo usados para tomar decisões de alto impacto, como aprovar empréstimos, selecionar currículos e até mesmo prever a reincidência criminal. No entanto, estudos mostram que esses algoritmos podem perpetuar e até amplificar preconceitos e discriminações.

O problema é que um algoritmo não tem intenção de discriminar. Ele simplesmente aprende com os dados do passado, que muitas vezes já refletem as desigualdades sociais. Isso cria um dilema legal e filosófico: como aplicar as leis antidiscriminação a uma tecnologia que não tem consciência? Quem é responsável? O programador que o criou, a empresa que o treinou com dados tendenciosos, ou a própria sociedade que produziu esses dados? Este problema nos força a repensar a própria ideia de "justiça" em um sistema automatizado.

Refletimos: Quando um algoritmo toma uma decisão tendenciosa, a culpa é da tecnologia, dos dados que a alimentam, ou da sociedade que a criou?