Por:Dennis Falvy
Escribí en “Punto de Encuentro” y derivado de un excelente post de Martin Wolf del FT , sobre la IA, que era una de tres cosas: https://puntodeencuentro.pe/columna.html?id=7431
Wolf para el financial, reitera el espinoso tema y señala asimismo que un pacto de desarme tecnológico entre Estados Unidos y China haría que todos se sintieran más seguros.
Lo analizado por Wolf, era si la IA es una burbuja, una bendición o una maldición.
Quedo en el tintero lo de la relativa a los "perjuicios".
Es decir ¿Cuán peligrosa es la IA?, ¿qué debemos hacer para contenerla? y ¿funcionará algún tipo de regulación?
Wolf piensa que es definitivamente peligrosa, que sin duda deberíamos intentar regularla y, sin embargo, cree que con toda probabilidad, el intento fracasará.
Lo critican por no ser un experto, por ejemplo. Pero Wolf arguye que la democracia es un proyecto político compartido y hay el derecho a participar en los debates sobre cómo gestionar las nuevas tecnologías peligrosas.
Y afirma que ello era así el invento de la “Bomba Atómica”. y con la IA se tendrá consecuencias mucho más complejas, pero también peligrosas.
Por algunos titanes de la tecnología, se perdió sin duda tras el enorme daño causado por las redes sociales a los jóvenes y al bien público de la información veraz.
¿Es descabellada la comparación entre la IA y las armas nucleares se pregunta Wolf?
No, porque lo primero también podría acarrear grandes perjuicios.
Estos se dividen en tres categorías generales: un colapso de los valores humanos fundamentales; algunos peligros específicos de gran magnitud; y una perturbación generalizada.
Los seres humanos piensan, crean y actúan.
¿Qué ocurrirá cuando las máquinas piensen, creen e incluso actúen por nosotros?
¿Seguirán los humanos luchando por comprender o nos lo darán todo hecho?
En resumen, ¿cambiará la IA no solo lo que hacen los humanos, sino también quiénes somos?
Y Wolf trae ejemplos diversos en su post.
Y advierte que :Los países que otorgan personalidad jurídica a las IA corren el riesgo de convertirse en algo para lo que el registro histórico no ofrece analogía: no un estado empresarial, sino un estado de IA».
Y señala que las empresas de IA podrían tomar decisiones sin intervención humana.
Los directores ejecutivos criminales pueden ir a prisión.
La IA es una “herramienta”.
No es una persona.
¿Sufre?
¿Sangra?
¿Puede asumir responsabilidad moral?
¿Puede rendir cuentas de alguna manera significativa?
No.
Además, esta cuestión de responsabilidad no se limita al ámbito empresarial.
¿Quién será responsable de los crímenes de guerra una vez que la IA dirija ejércitos de robots?
La cuestión de la rendición de cuentas también surge para otras instituciones que pueden utilizar los recursos disponibles gracias a la integración de la IA con otras tecnologías.
Las posibilidades de vigilancia masiva son enormes.
Lo mismo ocurre con los proyectos para crear armas autónomas.
La fabricación de falsedades, deepfakes y estafas ya se ha visto enormemente potenciada.
Estos avances podrían ser utilizados por los estados, los agentes privados o ambos.
¿Cómo funcionarían la ley y la rendición de cuentas política en un mundo así?
En un provocador artículo de Substack, el economista Noah Smith incluso argumenta que la IA se apoderará del mundo.
Luego están los peligros más específicos.
Un ejemplo obvio es la capacidad de perturbar nuestra civilización cibernética.
Todo aquello de lo que dependemos depende, a su vez, de este tipo de sistemas, sentencia Wolf .
Si la IA pudiera alterar estos sistemas, la vida se volvería radicalmente insegura y las posibilidades de extorsión serían ilimitadas.
La posibilidad de diseñar patógenos letales también es aterradora.
Niall Ferguson, de la Institución Hoover, advierte que parte de lo que hace que la IA sea incontrolable es que está impulsada por dos carreras armamentísticas simultáneas: una entre un pequeño número de empresas y la otra entre Estados Unidos y China.
Hasta el momento, Estados Unidos ha decidido no regular la competencia entre sus empresas, mientras que ni él ni China intentan controlar la que existe entre ellos.
Un acuerdo entre Estados Unidos y China sobre la regulación de la IA es una condición necesaria para controlar la competencia "mafiosa" de las principales empresas estadounidenses.
Estamos atrapados en una trampa: los tecnólogos nos están catapultando, a una velocidad extraordinaria, hacia un mundo nuevo cuyas implicaciones ni comprendemos ni controlamos.
Esto se debe en parte a que la IA es la más "general" de las tecnologías de propósito general.
Potencialmente, incluso podría significar la sustitución de la inteligencia humana por la inteligencia artificial.
Como ya he indicado, las implicaciones van mucho más allá de la preocupación por peligros específicos.
La IA también afectará tanto a nuestro sentido de identidad como humanos como a la forma en que organizamos y entendemos la sociedad: ¿deberían los programas poder actuar como personas, cuando ni sienten, ni son conscientes, ni tienen conciencia?
En cualquier caso, sin duda nos gustaría contener los mayores peligros, en especial los mencionados anteriormente.
Por lo tanto, una vía sensata a seguir sería que Estados Unidos y China identificaran y acordaran algún tipo de tratado de desarme en materia de inteligencia artificial.
Eso podría hacer que todos se sientan más seguros.
Hay una buena noticia dice Wolf : el temor a las perturbaciones económicas y sociales que se avecinan está generando preocupación entre la gente.
Creen, con razón, que el futuro es demasiado importante como para dejarlo en manos de unos pocos "expertos en tecnología", del mismo modo que la guerra es demasiado importante como para dejarla en manos de generales parodiando al francés Clemencau.
Ante esta situación, podría abrirse la puerta a la regulación.
Queda pendiente que medidas se podrían tomar al respecto, finaliza Wolf en este post de nivel muy importante para el futuro y la IA. Estaremos atentos e informaremos al respecto.
Ver: https://www.ft.com/content/8724874e-f387-4848-bfc4-2411d6f0797f?syn-25a6b1a6=1
19 Septiembre, 2018
9 Julio, 2024
21 Enero, 2018
