¿Cuáles son los riesgos de la inteligencia artificial?

La ONU advierte de la llegada de las armas autónomas, el reconocimiento facial produce errores que van más allá de la broma y el fraude de datos a gran escala está sobre la mesa

Rafa Mingorance lo describe en su canal de YouTube Tecnología y estilos de vida, las cinco desventajas de la IA que deberían preocuparnos.

Principios éticos para el manejo de riesgos

A lo largo de los años, los especialistas se han dedicado a establecer lineamientos que permitan el desarrollo tecnológico y su implementación de manera responsable y segura. Al optar por una perspectiva ética se busca la universalidad de principios que sirvan de guía para los diferentes escenarios en los que se involucra la IA. Sin duda es una tarea compleja que va más allá de decir si es bueno o malo, pero es un esfuerzo que vale la pena, ya que al definir ciertos estándares es posible aprovechar los beneficios del desarrollo tecnológico y reducir los riesgos. A continuación compartimos algunos consensos alcanzados por la Unión Europea:

A la hora de desarrollar cualquier sistema inteligente se debe tener siempre presente el respeto a la vida ya los derechos humanos sin discriminación alguna.

Por otro lado, está el problema de los prejuicios, es decir, prejuicios basados ​​en género, nivel socioeconómico, religión, preferencias sexuales, edad, color de piel… que se amplifican por los programas de aprendizaje automático.

En su análisis del sesgo de género de la IA, la UNESCO denuncia que “el mundo digital replica los estereotipos y prejuicios que dominan en la vida real”. ¿De quién es la culpa?

Comprensión de los riesgos y por qué ocurren

Cuando algo sale mal con la IA o hay riesgos presentes y la causa raíz del problema sale a la luz, a menudo hay muchas asenticiones. En retrospectiva, parece inimaginable que nadie lo viera venir. Pero si encuesta a ejecutivos de alto rango sobre el próximo riesgo de IA que probablemente surja, es poco probable que obtenga algún tipo de consenso.

Los líderes que desean cambiar su postura de retrospectiva a futuro deben comprender mejor los tipos de riesgos que están tomando, sus interdependencias y sus causas subyacentes. Para ayudar a desarrollar esta información faltante, hemos esbozado cinco puntos débiles a continuación que pueden conducir a riesgos de IA. Los primeros tres (dificultades de datos, problemas tecnológicos y problemas de seguridad) se relacionan con lo que podría llamarse habilitadores de IA. Los dos últimos están vinculados a algoritmos e interacciones hombre-máquina que son fundamentales para el funcionamiento de la propia IA.

Divergencia de objetivos

Si nuestros objetivos y los de las máquinas no coinciden, los resultados que esperamos obtener pueden ser un caos. Esto puede suceder si realiza un pedido sin especificaciones. Por tanto, la máquina entiende cuál es el objetivo principal, pero no los medios necesarios para conseguirlo.

Con la llegada de la Inteligencia Artificial, una multitud de carreras pueden desaparecer en términos de trabajos repetitivos que no requieren la participación humana. Si bien es cierto que en la mayoría de los trabajos se pueden obviar algunas funciones que serán sustituidas por la IA.