16 Jan Qué pasa si los robots enloquecen
Por Andrés Oppenheimer
Al comenzar el año 2018, hay muchas advertencias sobre los peligros que enfrenta el mundo, desde una guerra con Corea del Norte hasta una explosión de violencia en Medio Oriente. Pero yo tengo un temor mucho más simple: que los robots y algoritmos que estamos incorporando a diario en nuestras vidas de repente se vuelvan locos.
Ustedes pensarán que he estado mirando demasiadas películas de ciencia ficción durante las vacaciones, pero no fue eso. Fue una experiencia personal que tuve con Alexa, la asistente virtual de Amazon Echo que mi hijo me regaló para mi cumpleaños hace más de un año y que ha estado en mi sala de estar desde entonces.
Para aquellos que no la conocen, Alexa es una asistente virtual, como Siri, de Apple, que vive dentro de un pequeño parlante con forma de cilindro, con una luz en la parte superior. El parlante se enciende cuando escucha la palabra “Alexa” y uno puede preguntarle lo que quiera.
Uno también puede pedirle a Alexa que toque una canción, nos dé el pronóstico del tiempo o nos pase las últimas noticias. También podemos pedirle a Alexa que nos ordene una pizza o que compre un libro en el sitio de Internet de Amazon. Alexa ya está en más de veinte millones de hogares estadounidenses, según la compañía.
En casa hemos usado a Alexa principalmente para obtener el pronóstico del tiempo y recibir las últimas noticias de la National Public Radio (NPR). Más que nada, ha sido un buen tema de conversación, especialmente cuando tenemos visitas de otras partes del mundo donde Alexa aún no está disponible.
Pero, aunque mi experiencia con Alexa en general ha sido positiva, tuve un incidente un tanto inquietante con ella hace unos meses, que me hace preguntarme qué pasará a medida que permitimos cada vez más que nuestra vida cotidiana sea asistida -si no dirigida- por asistentes virtuales en nuestras casas, navegadores GPS en nuestros coches, robots de diagnóstico médico en los hospitales y otras máquinas inteligentes en todos lados.
Estaba trabajando en la oficina de mi casa y de repente escuché una voz masculina en la sala de estar. Al principio, ni se me cruzó por la mente que podría ser Alexa. Estaba solo, mi esposa estaba de viaje y no tenemos mascotas. No había nadie en casa que pudiera haber despertado a Alexa llamándola por su nombre.
Asustado, y frustrado por no encontrar ningún objeto sólido a mano con que pudiera enfrentar a un posible ladrón, caminé lentamente hacia la sala de estar, con mi corazón latiendo a todo dar. Una vez allí, descubrí que no había nadie. Solo estaba Alexa, que se había encendido sola y estaba transmitiendo las últimas noticias de la radio pública.
Pregunté al departamento de atención a clientes de Amazon y un representante muy amable me dijo que era un incidente inusual, que podría haber sido causado por una “falla técnica”.
Anteriormente, un miembro del departamento de prensa de Amazon me había dicho que el programa de radio de NPR podría haber estado en modalidad de “pausa”, y que Alexa podría haber “pensado” que escuchó la palabra “reanudar”. Otra posibilidad era que alguna radio o televisor encendido en la casa hubiera pronunciado la palabra “Alexa” seguida de “NPR” y el aparato se hubiera disparado.
Ninguna de esas posibles explicaciones me satisfizo porque Alexa había estado apagada durante días, si no semanas. Además, no había ninguna radio o televisor encendidos. Todavía estoy en contacto por mail con el departamento de atención al cliente de Alexa, que ha iniciado una investigación sobre el caso.
Intrigado por mi incidente con Alexa, volví a leer durante las vacaciones el libro Homo Deus, del historiador israelí Yuval Noah Harari, sobre el futuro de la humanidad en un mundo cada vez más manejado por robots. En él, Harari escribe que “cuando Google, Facebook y otros algoritmos se conviertan en oráculos omniscientes, bien podrían evolucionar para convertirse en representantes y finalmente en soberanos”.
Tal vez sea así. Pero antes de que las máquinas inteligentes se vuelvan tan astutas que puedan gobernar el mundo, deberíamos preocuparnos por una amenaza mucho más elemental: que simplemente se vuelvan locas.
LA NACION