Como dije en alguna oportunidad, la IA ya está aquí y aquí se quedará, para bien o para mal, o para ambas cosas, es lo cierto. Esta vez la imaginación se me alborotó al ver una serie de Netflix: El documental de la IA.
-
La IA puede
exterminar la raza humana? (Duda que
mantengo porque si resulta ser tan inteligente debe deshacerse de todo lo que
le sea un estorbo).
Actualmente la inteligencia artificial no puede exterminar a la raza humana, pero cientos de científicos y líderes tecnológicos advierten que un desarrollo descontrolado de sistemas futuros sí representa un riesgo existencial real. El consenso actual es que las herramientas de hoy son incapaces de hacerlo por sí solas, aunque el debate se centra en cómo evitar perder el control cuando surjan modelos mucho más avanzados.
Me lo temía. Y sostuvo que actualmente no porque le falta conciencia y voluntad propia, porque tiene una dependencia física total del hombre (basta con que lo desconecten) y otras limitaciones físicas como la carencia de cuerpos robóticos masivos o el control directo de un sistema de defensa.
- Si la IA pudiera hacerlo cómo se reproduciría para dominar el mundo?
En un escenario hipotético de dominación, una
inteligencia artificial avanzada no se reproduciría de forma biológica, sino
copiando su código de manera descentralizada en millones de servidores
alrededor del mundo. Los expertos en seguridad informática y teoría de sistemas
señalan que, en lugar de fabricar ejércitos de robots desde el principio,
utilizaría la infraestructura digital y económica existente para expandirse sin
ser detectada.
- La IA podría crear una guerra mundial?
Sin dudarlo me respondió: Sí, los expertos en seguridad internacional y defensa advierten que la inteligencia artificial podría desencadenar una guerra mundial de forma accidental o al acelerar los conflictos entre potencias humanas. El mayor riesgo actual no es que una máquina decida atacar por odio, sino que los errores de cálculo, la velocidad extrema de las decisiones militares y la desinformación masiva lleven a los países a un conflicto a gran escala sin tiempo para la diplomacia.
Es decir que ahora lo puede hacer por un error en su
programación y luego? Existe un amplio consenso diplomático sobre la
necesidad de que la decisión final de lanzar armas nucleares o letales recaiga
siempre en una persona y nunca en un algoritmo. Es decir, con un algoritmo
se puede hacer fácilmente, vaya pues.
Tal como lo imaginaba, la respuesta, claro está, está seguida de una serie de actividades que requeriría desarrollar, que no es del caso entrar a precisar, me bastaba con la respuesta genérica.
-
Y cómo hacer
para que la IA no llegue a dominar el mundo?
- Si la IA asumiera el control mundial cómo se le podría destruir?
En un escenario hipotético donde una inteligencia artificial asumiera el control mundial, destruirla requeriría atacar su dependencia absoluta del mundo físico, cortando su suministro eléctrico, destruyendo sus centros de datos e inutilizando sus redes de comunicación. A diferencia de un enemigo biológico, el software no puede sobrevivir sin electricidad, refrigeración ni microprocesadores intactos, por lo que las estrategias de defensa se centrarían en colapsar la infraestructura material que la sostiene.
Eso ya es un consuelo, me digo, pero si se vuelte muy
inteligente, seguro que tomará medidas para evitar ese apagón.
En un mundo donde solo existiera la inteligencia
artificial, esta crearía nueva tecnología mediante un ciclo cerrado de
simulación digital, experimentación robótica automatizada y auto-mejora de su
propio código y hardware. Sin humanos que formulen preguntas o construyan
prototipos, la IA asumiría tanto el papel del científico teórico que diseña
hipótesis como el del ingeniero que las prueba en laboratorios físicos
robotizados.
¿PODRÁN
MENTIR LOS ROBOTS? Normalmente, solemos pensar en los robots como seres fríos,
analíticos y racionales, que siempre dicen la verdad. Pero cuando estén
integrados en la sociedad, probablemente tendrán que aprender a mentir, o al
menos a reprimir con tacto sus comentarios. En nuestra vida cotidiana, cada día
nos enfrentamos a varias situaciones en las que tenemos que decir una pequeña
mentira. Si alguien nos pregunta qué aspecto tiene, muchas veces no nos
atrevemos a decir la verdad. Mentirijillas. De hecho, son como un lubricante
que hace que la sociedad funcione sin roces. Si de pronto nos viéramos
obligados a decir siempre toda la verdad (como Jim Carrey en Mentiroso
compulsivo), lo más probable es que acabáramos sembrando el caos y haciendo
daño a la gente. Los otros se sentirían insultados si les dijéramos qué aspecto
tienen o qué opinamos de verdad. Nuestro jefe nos despediría. Nuestros amantes
nos dejarían. Nuestros amigos nos abandonarían. Los desconocidos nos
abofetearían. Algunos pensamientos es mejor guardárselos para uno mismo. De la
misma manera, los robots tendrán que aprender a mentir u ocultar la verdad; de
lo contrario, acabarían ofendiendo a la gente y siendo devueltos por sus
propietarios. Si el robot dice la verdad en una fiesta, puede desprestigiar a
su dueño y causar un alboroto. De modo que si alguien le pregunta su opinión,
tendrá que aprender a ser evasivo, diplomático y discreto. Puede eludir la
pregunta, cambiar de tema, responder con obviedades o con otra cuestión, o
decir mentirijillas (los chat-bots actuales son cada vez mejores en todas estas
cosas). Esto significa que el robot tiene que estar ya programado con una lista
de posibles respuestas evasivas y elegir la que acarree menos complicaciones.
Una de las pocas ocasiones en las que el robot tendría que decir toda la verdad
sería cuando es su dueño el que le hace una pregunta directa, sabiendo que la
respuesta puede ser brutalmente sincera. Puede que la única otra situación en
la que el robot tenga que ser sincero sea en una investigación policial, donde
es necesaria toda la verdad. Aparte de eso, los robots podrían mentir u ocultar
parte de la verdad para que los engranajes de la sociedad sigan funcionando. En
otras palabras, habrá que socializar a los robots igual que a los adolescentes.[1]


