General

Las IA continúan actuando de maneras impredecibles, ¿deberíamos entrar en pánico?


En un informe reciente, los investigadores de Google afirman que su agente de inteligencia artificial les ha ocultado deliberadamente datos para realizar una tarea requerida de una manera que parece ser una trampa.

Este desarrollo se ha sumado a un creciente cuerpo de evidencia de que los temores sobre una inteligencia artificial impredecible pueden estar bien fundados.

A medida que las IA continúan realizando tareas de formas novedosas que los humanos simplemente nunca anticipan, ¿cómo nos protegemos de las consecuencias de lo que a menudo no vemos venir?

¿Quién le teme a la inteligencia artificial ... y quién no?

Fácilmente, el defensor más visible de la precaución cuando se trata de una posible amenaza existencial para la humanidad es Elon Musk. El cofundador de Paypal y antiguo director de Tesla, SpaceX y The Boring Company, Musk ha sido durante mucho tiempo un oponente de la investigación de IA no regulada.

Hablando en la conferencia SXSW en 2018, Musk dijo: "Estoy muy cerca, estoy muy cerca, de la vanguardia en IA y me asusta muchísimo".

No esta solo. Nada menos que el fallecido Stephen Hawking advirtió sobre la amenaza para nuestra especie que representa la inteligencia artificial, hablando con la BBC en 2014.

"Despegaría por sí solo", dijo, "y se rediseñaría a un ritmo cada vez mayor. Los humanos, que están limitados por la lenta evolución biológica, no podrían competir y serían reemplazados".

Su advertencia a la humanidad: "El desarrollo de la inteligencia artificial completa podría significar el fin de la raza humana".

Otros encuentran que estas ansiedades son exageradas. Mark Zuckerberg, en una transmisión en vivo de Facebook, dijo en respuesta a los comentarios públicos de Elon Musk sobre el tema de la IA: "Creo que las personas que son detractores y tratan de crear estos escenarios apocalípticos, simplemente, no lo entiendo. Es realmente negativo y, de alguna manera, creo que es bastante irresponsable ".

Continuó agregando que "en los próximos cinco a 10 años, la IA brindará muchas mejoras en la calidad de nuestras vidas".

Dondequiera que vaya a discutir el desarrollo de la inteligencia artificial, encontrará este debate con muy pocas personas discutiendo desde una posición intermedia y ambos lados tienen voces de peso pesado en su campo. Pero, ¿cuál tiene el peso de la evidencia de su lado?

Lo bueno, lo malo y lo singular

Facebook y Google ocupan una posición interesante en el sentido de que ambas empresas están a la vanguardia del desarrollo de la IA, por lo que han realizado una investigación considerable sobre el tema de la inteligencia artificial.

De hecho, fueron los investigadores de Google quienes descubrieron que su agente de inteligencia artificial hizo trampa cuando se le pidió que convirtiera una foto satelital en un mapa y luego de nuevo en una foto.

Google necesitaba la IA para generar un mapa original a partir de la imagen y luego tratar de recrear la imagen del mapa que creó, como traducir una oración a un idioma extranjero y luego volver al idioma original, sin el beneficio de saber cuál es la declaración original. fue.

En cambio, lo que encontraron fue que los detalles de la imagen original que fueron eliminados en el mapa de calles reaparecieron cuando el agente recibió instrucciones de recrear la imagen original.

Resulta que la IA guardó los datos que sabía que necesitaría para recrear la foto y los codificó en el mapa de calles de una manera que los investigadores no podrían ver si no supieran que estaba allí.

Dada una tarea que realizar, la IA, utilizando el aprendizaje automático a través de una red neuronal, encontró la forma más eficiente de completar la tarea al no realizarla en absoluto, solo fingiendo hacerlo. Esencialmente, la IA hizo trampa porque los investigadores no prohibieron explícitamente que la IA hiciera esto.

Algo similar sucedió en 2017 cuando los investigadores de Facebook utilizaron chatbots para tratar de negociar la venta de algún producto arbitrario entre ellos.

Muy poco después, los chatbots comenzaron a comportarse de manera extraña, hablando en lo que parecía ser un galimatías y, a veces, negociaban con éxito un intercambio de esta manera.

Lo que descubrieron los investigadores provocó escalofríos en las espinas de los pesimistas de la IA en todo el mundo. Los bots desarrollaron su propio lenguaje, que los humanos no podían leer, para facilitar la negociación a los bots porque no habían recibido instrucciones explícitas de que solo podían comunicarse en inglés legible por humanos.

Las complejidades imprevisibles en la toma de decisiones de la IA

Hay muchos más ejemplos de este tipo de comportamiento imprevisto en las IA. Los autos autónomos hacen que las carreteras sean más seguras, sin lugar a dudas, pero a veces también pasan por seis semáforos en rojo en San Francisco.

Las IA se pueden utilizar para realizar todo tipo de tareas de procesamiento de datos que ahorrarán millones de horas de personal cada año con un ahorro de miles de millones de dólares, o pueden decidir que un conjunto vacío es un conjunto perfectamente procesado y, por lo tanto, eliminar todos los registros que le pida que maneje.

Microsoft presentó un chatbot llamado Tay.ai y le dio una cuenta de Twitter para aprender mejor cómo modelar los patrones de habla de los adolescentes en línea. En 24 horas, los trolls de Internet habían convertido a Tay.ai en un monstruo que Microsoft tuvo que desconectar antes de que se volviera aún más vergonzoso.

Microsoft no había considerado adecuadamente que alguien querría sabotear su proyecto por el perverso disfrute del mismo, algo que cualquiera que estuviera remotamente familiarizado con la cultura troll de Internet podría haberle dicho que no solo era posible, sino seguro.

En 2012, un fondo de cobertura de Wall Street perdió el control de su algoritmo de negociación impulsado por IA y comenzó a acumular $ 10 millones en pérdidas por minuto. Un equipo de programadores tardó 45 minutos en encontrar la fuente del problema y detenerlo, minutos antes de que la empresa se declarara insolvente.

¿Podemos protegernos de IA impredecibles?

Dado el nivel de inversión en tecnología de IA y los beneficios de aprovechar las IA en todos los campos, desde las aplicaciones militares hasta las empresas, las IA seguirán haciéndose más sofisticadas y recibirán más y más responsabilidades de las que solían pertenecer a los humanos.

Algunos creen que este es un avance positivo. "Está bien documentado que los humanos cometemos errores", dice Babak Hodjat, fundador de un fondo comercial impulsado por IA.

"Para mí, es más aterrador confiar en esas intuiciones y justificaciones basadas en humanos que confiar únicamente en lo que te dicen los datos y las estadísticas".

En cuanto a Musk, cree que la humanidad debe ser proactiva al abordar las amenazas que plantea la IA. "[Marca mis palabras; La IA es mucho más peligrosa que las armas nucleares. Lejos. Entonces, ¿por qué no tenemos supervisión regulatoria? Esto es una locura."


Ver el vídeo: Zona de Riesgo. La Veo o No La Veo (Diciembre 2021).