Intel·ligència artificial. L’algoritme són els pares

Bernat Puigtobella, editor de Núvol, ens fa saber (L’algoritme són els pares. Núvol, 16/1/2023) que el CaixaForum Macaya i l’Observatori Social de la Fundació ‘La Caixa’ inicien el 2023 amb un cicle sobre intel·ligència artificial (IA)
El filòsof Joan Manuel del Pozo ha obert aquest cicle de tres sessions abordant i delimitant els conceptes intel·ligència i artificial.
Del Pozo sosté que la IA és invasiva i que hem de procurar pensar en les conseqüències que tindrà a llarg termini perquè sigui el menys lesiva possible. No té sentit fer-hi una esmena a la totalitat, com van fer els luddites, que van destruir les primeres màquines perquè consideraven que els prenien la feina. La IA és ja una realitat contundent que s’imposa, una realitat que no podem ignorar, encara que hi estiguéssim en contra.
Del Pozo adverteix dels perills de l’algoritme, que no hem de veure com una cosa màgica, sinó com un producte del nostre cervell, que reprodueix els biaixos i prejudicis de qui l’ha dissenyat. L’algoritme no és l’expressió d’un poder diví suprem, sinó que com deia Elvira Lindo, “els algoritmes són els pares”.
L’algoritme tendeix a l’opacitat i cal exigir transparència. Hi ha biaixos implícits en molts algoritmes, que adquireixen un caràcter profètic i determinista…i que pot tenir efectes nefastos en el mercat laboral o de les assegurances o la medicina. Davant d’això cal preservar el principi humanista de donar igual dignitat a totes les persones.
No serà que vivim amb la noció que el progrés és infinit i etern però que això és fonamentalment l’expressió d’un desig inconscient?