Prendre decisions
Hola,
Diuen que estem lluny encara del gran dilema on una Intel·ligència Artificial (IA) hagi de decidir sobre la vida d'algun humà. Això es pot donar en moltes facetes. Que opció ha de prendre una IA en mig d'un desastre, enviar un escamot a salvar tres persones sepultades a punt de morir o a recuperar medicines que salvaran a centenars? I en una operació a cor obert pot causar danys irreversibles al pacient per salvar-li la vida? I en una invasió militar les vides de l'enemic no compten i les dels ostatges?
Recordeu la pel.licula protagonitzada per James Franco anomenada 127 hores, que està basada en fets reals, on un home queda atrapat del braç en un congost? En un cas semblant si es veu involucrada una IA, ha de tallar-li el braç com va fer el personatge a la vida real? Per decidir en aquests casos s'ha de tenir allò que anomenem moral, i de moment les IA no poden poc mes que aprendre entre milions d'opcions quina s'ajusta mes a la solució que un humà m'ha donat.
Perquè veieu el complicat que ho tindrà l'humà que ensenyi a la primera IA que prendrà aquests tipus de decisions, els nois del Massachusetts Institute of Technology (MIT), han creat online uns tests perquè et posis a prova. No hi ha respostes correctes i en totes elles mor algú. La premissa es que un cotxe conduït per una IA pateix un problema que l'impedeix frenar i ha de decidir entre matar els vianants o els ocupants del cotxe. Ha de distingir per estatus, per raça, per edat? Si es un nen l'esquivo, si es un avi l'atropello? Ha de diferenciar si està infringint alguna llei? Si el vianant passa en vermell me'l carrego? Si moriran mes persones en una opció que un altre, mato a mes o a menys persones? I si ha de decidir entre el que sembla un metge i el que sembla un captaire?
A la gent li costa escollir entre les pelis de Netflix, ni t'explico si han de dissenyar una cosa així.
Fer la prova
Diuen que estem lluny encara del gran dilema on una Intel·ligència Artificial (IA) hagi de decidir sobre la vida d'algun humà. Això es pot donar en moltes facetes. Que opció ha de prendre una IA en mig d'un desastre, enviar un escamot a salvar tres persones sepultades a punt de morir o a recuperar medicines que salvaran a centenars? I en una operació a cor obert pot causar danys irreversibles al pacient per salvar-li la vida? I en una invasió militar les vides de l'enemic no compten i les dels ostatges?
Recordeu la pel.licula protagonitzada per James Franco anomenada 127 hores, que està basada en fets reals, on un home queda atrapat del braç en un congost? En un cas semblant si es veu involucrada una IA, ha de tallar-li el braç com va fer el personatge a la vida real? Per decidir en aquests casos s'ha de tenir allò que anomenem moral, i de moment les IA no poden poc mes que aprendre entre milions d'opcions quina s'ajusta mes a la solució que un humà m'ha donat.
Perquè veieu el complicat que ho tindrà l'humà que ensenyi a la primera IA que prendrà aquests tipus de decisions, els nois del Massachusetts Institute of Technology (MIT), han creat online uns tests perquè et posis a prova. No hi ha respostes correctes i en totes elles mor algú. La premissa es que un cotxe conduït per una IA pateix un problema que l'impedeix frenar i ha de decidir entre matar els vianants o els ocupants del cotxe. Ha de distingir per estatus, per raça, per edat? Si es un nen l'esquivo, si es un avi l'atropello? Ha de diferenciar si està infringint alguna llei? Si el vianant passa en vermell me'l carrego? Si moriran mes persones en una opció que un altre, mato a mes o a menys persones? I si ha de decidir entre el que sembla un metge i el que sembla un captaire?
A la gent li costa escollir entre les pelis de Netflix, ni t'explico si han de dissenyar una cosa així.
Fer la prova
Comentaris
Publica un comentari a l'entrada