A pesar del progreso en el dominio de las tareas humanas, la inteligencia artificial todavía es muy fácil de engañar. Cambios sutiles en una imagen pueden hacer que un algoritmo vea algo que no está allí y genere accidentes de tránsito.

A pesar de su impresionante progreso en el dominio de las tareas humanas, la inteligencia artificial tiene un bochornoso secreto: es sorprendentemente fácil de engañar. Esto podría ser un gran problema a medida que asume una responsabilidad cada vez mayor por las vidas y los sustentos de las personas.

Gracias a los avances en las redes neuronales y el «aprendizaje profundo», los algoritmos informáticos ahora pueden vencer a los mejores jugadores humanos en juegos como Go, o reconocer animales y objetos en fotos. En el futuro previsible, es probable que asuman todo tipo de tareas mundanas, desde llevar a las personas al trabajo hasta administrar inversiones. Al ser menos propensos que los humanos a cometer errores, también podrían manejar tareas delicadas como el control de tráfico aéreo o escanear equipaje en busca de explosivos.

Pero en los últimos años, los científicos informáticos se han encontrado con algunas vulnerabilidades preocupantes. Cambios sutiles en una imagen, tan insignificantes que ningún ser humano los notaría siquiera, pueden hacer que un algoritmo vea algo que no está allí. Podría percibir ametralladoras colocadas sobre una mesa como un helicóptero o un gato atigrado como guacamole. Inicialmente, los investigadores necesitaban estar íntimamente familiarizados con un algoritmo para crear esos «ejemplos adversos». Últimamente, sin embargo, han descubierto cómo hacerlo sin ningún conocimiento interno.

Gracias a los avances en las redes neuronales y el «aprendizaje profundo», los algoritmos informáticos ahora pueden vencer a los mejores jugadores humanos en juegos como Go, o reconocer animales y objetos en fotos. En el futuro previsible, es probable que asuman todo tipo de tareas mundanas, desde llevar a las personas al trabajo hasta administrar inversiones. Al ser menos propensos que los humanos a cometer errores, también podrían manejar tareas delicadas como el control de tráfico aéreo o escanear equipaje en busca de explosivos.

Pero en los últimos años, los científicos informáticos se han encontrado con algunas vulnerabilidades preocupantes. Cambios sutiles en una imagen, tan insignificantes que ningún ser humano los notaría siquiera, pueden hacer que un algoritmo vea algo que no está allí. Podría percibir ametralladoras colocadas sobre una mesa como un helicóptero o un gato atigrado como guacamole. Inicialmente, los investigadores necesitaban estar íntimamente familiarizados con un algoritmo para crear esos «ejemplos adversos». Últimamente, sin embargo, han descubierto cómo hacerlo sin ningún conocimiento interno.

 

Tomado de: El espectador

Abrir chat
1
Hola, ¿cómo podemos ayudarte?