L’àmbit de l’ètica i la moral és el que està provocant debats més profunds respecte a la intel·ligència artificial i el comportament ètic de les màquines en cas d’accident. La previsible irrupció massiva a les nostres carreteres de cotxes amb capacitats per a autoconducció sense la intervenció de cap persona durant la pròxima dècada ha incrementat aquest debat transformant-lo en un tema molt pròxim i real.
Un equip del MIT està treballant en un projecte que han anomenat Moral Machine. Aquest és un d’aquells temes que genera vertigen després de pensar-hi una estona. Es tracta d’un estudi on tothom pot participar a través del seu lloc web per entendre com les persones valorem el comportament que un vehicle autònom hauria de tenir davant la possibiltat d’un accident amb víctimes mortals.
El punt de partida és senzill i parteix d’un exercici molt popular en l’àmbit de la filosofia i l’ètica conegut com el Dilema del Trolley. En la seva versió original, el dilema es planteja en un vagó de tramvia que baixa desbocat per una via al final de la qual hi ha cinc persones lligades que moriran segur; se’ns planteja la possibilitat de fer girar una palanca i canviar el transcurs de la caiguda del vagó cap a una altra via en la qual només morirà una persona. Què hem de fer en aquest cas? Salvar la vida de més persones és millor? O potser no hem d’intervenir en el destí?
Aquest problema clàssic es transforma en milions de possibilitats quan tenim en compte que potser d’aquí a uns anys els nostres carrers i carreteres estaran plens de cotxes que es conduiran sols i que, per tant, prendran decisions de forma autònoma. El projecte del MIT destinat als cotxes autoconduits planteja noves variacions que ens el fan més complex. El cotxe ha d’escollir sacrificar els seus ocupants si salva més vides en cas d’accident? Fem-ho més bèstia: és el mateix salvar la vida d’un criminal convicte que la d’un executiu? Set dones embarassades davant de cinc homes jubilats, un dels quals és un sense sostre? Val més la vida de 3 gats o la de 3 gossos?
És impossible en aquests moments pensar com es poden automatitzar decisions d’aquest tipus. De fet, diria que és directament terrorífic; sortit d’algun dels pitjors malsons de la literatura distòpica. Però posar-te a prova amb les 13 preguntes que planteja la web del la Moral Machine et posa de la manera més crua davant d’un dilema moral profund i impossible de resoldre.
Cultura digital 