La possibilitat que les dades ens permetin prendre millors decisions i els algoritmes vagin assumint tasques fins fa poc pròpiament humanes, com l'aprenentatge, obre infinites possibilitats d'automatització de processos. Diversos països experimenten ja amb la justícia algorítmica (la determinació de sentències en base a algoritmes), l'automatització del procés d'assignació de serveis i prestacions (decidides algorítimicament en base a dades existents i processos matemàtics) o l'assignació a algoritmes de decisions sobre processos de selecció de personal o avaluació del rendiment laboral.

La combinació d'opacitat, biaixos i desequilibris de poder obre les portes a una veritable dictadura de l'algoritme, en què les persones i grups afectats per aquestes tecnologies no compten amb recursos per exigir rendició de comptes i transparència en aquests processos, sobretot en aquells casos en què els algoritmes prenen decisions importants relacionades amb l'accés a serveis, treball o drets.

Gemma Galdon és analista de polítiques públiques especialitzada en l'impacte social, legal i ètic de les tecnologies intensives en dades personals. Doctorada en videovigilància, seguretat i polítiques urbanes per la Universitat Autònoma de Barcelona, és fundadora i directora d'Eticas Research and Consulting; treballa com a experta científica i en ética per la Direcció General de Recerca i Innovació de la Comissió Europea, i forma part del consell assessor de Privacy International i de Data & Ethics.

* Inicialment, aquesta conferència estava programada pel 16 d'octubre, data en què tindrà lloc la conferència "El psicòpata en el ciberespai" amb Vicente Garrido.