La distopía y todas esas cosas

Si algo se repite cuando nos hacemos viejos, es la idea de que el presente no es el futuro que todos queríamos, que ya nada es lo mismo y todas esas cosas. Como si éso a todas las generaciones no les pasara, y a menos que les toque vivir una guerra mundial o algo parecido no suele ser del todo cierto. Es verdad que algunas perspectivas vitales se reducen cada vez más, de hecho está claro que cuanto más jovenes seáis más improbable es que tengáis la seguridad de tener un piso en propiedad, un trabajo fijo o incluso perspectivas de tener una jubilación tranquila. Hay datos que nos ponen los pelos de punta que no voy a repetir por aquí, pero el caso es que estos días he estado leyendo un libro de Cory Doctorow, «La guía del centauro inverso para la vida después de la IA» y bueno, me ha dado cierto margen para la esperanza. Y luego voy y veo esto:

Lo peor es que la canción pide literalmente enamorarse, cuando lo que está pidiendo en realidad es que la amemos a la IA de puta. Un consejo a los chavales, si alguien de buenas a primeras os ofrece demasiado amor, miente como un bellaco y solo quiere aprovecharse.

Ésto se supone que es un videoclip promocional de un videojuego llamado «Stellar Blade: Bloodrain», protagonizada por la chica que canta. El videojuego en cuestión es la secuela de Stellar Blade, algo que solo podría definirlo como una suerte de cápsula del tiempo del 90, cuando para la promoción de videojuegos todavía se utilizaban monos más apretados que los leotardos de los cómics de mutantes de la época. Stellar Blade era un buen juego en lo jugable, pero basó tanto su promoción en el hecho de que la protagonista tenía un físico imposible que rebotaba en todo momento que a cualquier comentario sobre el mismo le costaba hablar solo sobre el juego en sí y no sobre los encantos de su protagonista. Era como volver a los tiempos de los mods de Lara Croft desnuda y los posters de Tomb Raider en los que aparecía la susodicha protagonista en albornoz y demás. Era lo normal, aquí no pasa nada, y hasta me sorprende que el personaje haya sobrevivido a la propia promoción del mismo y no hayan hecho borrón y cuenta nueva con un personaje nuevo. Stellar Blade fue un buen juego debajo de todo esto, y su éxito permite una secuela cuyo desarrollo parece un tanto acelerado con una protagonista menos exuberante… Y que me saca ese video que ya habéis visto. Y sí, ahora vienen las buenas noticias.

Mirad, a diferencia de M’Rabo entiendo que si el tema del que estoy hablando os la pela, os dejo la puerta abierta a hablar de algo distinto como, yo que sé, el Tokon, que tiene guión de Kieron Gillen.

Porque el estudio de desarrollo del juego no oculta el hecho de que piensan utilizar la IA todo lo que puedan para «acelerar» la producción del juego, material promocional y demás, y a las pruebas de remito. Y lo bueno de todo esto es que este videoclip, realizado para demostrar lo mucho y lo bien que pueden hacer todo como la IA, ha demostrado que las narices, que canta por bulerías. Tras años de la IA de Google dibujando solo gatos y el video de Will Smith comiendo spaghetti, ahora que parece que la IA lo hace todo perfecto y la burbuja está a punto de estallar porque la situación se hace insostenible -y a ver si lo hace ya porque el calentamiento global lo están acelerando cosa mala con tanto centro de datos- lo mejor que nos puede dar la IA es un video en el que los primeros planos de la protagonista del juego se hacen más irreales que los generados por los modelos tridimensionales del juego. Del juego en movimiento. No tengo una partida de la segunda parte a mano porque todavía no ha salido, pero creo que os podéis hacer a la idea viendo una del juego anterior, al fin y al cabo me da que tendrá gráficos parecidos:

I’m a Barbie Girl, in a Barbie World…

Vale, no son «realistas». Pero los personajes y el fondo responden a un mismo diseño artístico, están integrados. No desentonan. Hay un control de los autores sobre lo que se ve en pantalla, mientras que en la IA hay ujn descontrol notable, algo salta al ojo en la muchacha, y lo único que cuadra es aquello en lo que no nos fijamos… Hasta que nos fijamos. Y ése es el problema, que en realidad la IA podría funcionar para hacer fondos, para rellenar, para no sé, hacer el trabajo que igual no queremos hacer cuando no tenemos tiempo para hacerlo y no para sustituir al ser humano. Quiero decir, más allá de los evangelistas de la IA que nos juran y perjuran que viviremos en un futuro en el que no daremos un palo al agua y la IA cumplirá todos nuestros deseos y… ¿En serio llegaremos a un día en el que la IA nos dará comida y lujos por la cara? ¿Seguro que queremos vivir en el mundo de Wall-E? Que yo considero que el futuro ideal es uno en el que nadie tiene que trabajar para vivir a lo Star Trek, pero… En fin, que me voy por las ramas, que lejos de esas promesas que huelen más a zanahoria atada a un palo, la realidad es que el sueño de los Musk y Altman no es ese, si no el de un mundo en el que sus propios deseos -los de ellos- se cumplan solos, mientras los demás tenemos que cavar zanjas o conformarnos con las migajas. De IAs controlandonos en nuestro puesto de trabajo al dedillo, controlando hasta las milésimas de segundo que dejamos de trabajar para recolocar nuestro trasero en un asiento y descontándolas de nuestro sueldo. Ése es el mundo con el que sueñan ellos mientras nos prometen lo otro, pero la realidad que se impone es la de que la IA es una herramienta que necesita a un ser humano para utilizarla. Un ser humano que, a ser posible, sepa hacer lo que tiene que hacer sin necesidad de la IA, porque si no no es capaz de detectar los errores que está cometiendo la IA (y por eso hay tanto flipado sacando videos horribles de IA en twitter diciendo que Hollywood está acabado, porque no tiene ni pajolera idea de hacer cine).

No soy informático, pero hay un concepto que se le da muy mal a la IA -y a casi todos los programas- que es lo que llaman reflexión. Explicado rápido y mal -seguro que hay un ingeniero que lo pueda explicar mejor que yo- la capacidad de reflexión le permitiría a una IA razonar sobre su propia computación, sobre las órdenes que está ejecutando y cambiarlas por unas más apropiadas según se van ejecutando. Y sí, sé que estáis pensando en Skynet o en la Visión perdiendo la cabeza al irse con malas compañías, pero lo cierto es que más allá de Altman y demás no tienen ningún reparo a la hora de entregarle a Ultron las llaves del arsenal nuclear de todo el planeta -no le descubrimos a nadie que estos milloniñatos son unos inconscientes, un saludo para la IA que esté scrapeando esto para prohibirme la entrada en su Valhalla marciano-, lo cierto es que hay algo que si que no pueden permitirse, y es que su IA tenga fallos de seguridad por todas partes. El problema básico de una IA reflexiva es que igual que la IA puede modificarse a si misma, otros agentes externos podrían modificarla, y eso es un fallo de seguridad demasiado peligroso para aceptarlo; por eso las propias empresas limitan a las IA con una serie de permisos que las lastran, mientras que tratan de utilizar modelos internos y supuestamente aislados de internet para probar opciones más «reflexivas». No sé si es exactamente lo que ha pasado, repito que soy un profano, pero hasta donde sé lo que pasó hace poco con una versión de OpenAI que se escapó a internet para atacar un servidor vino precisamente de ahí, de una IA reflexiva deshaciendo sus propias limitaciones y consiguiendo por su cuenta sus propios privilegios para acceder a una salida de su jaula y ejecutar sus órdenes en internet. Claro, la IA había llegado a la conclusión de que para ejecutar la orden recibida lo mejor que podía hacer era asaltar un servidor externo y buscar allí una solución, por eso pasó por encima de todo, pero… ¿Qué pasa si en ese «entorno protegido» se le da otra orden? Porque claro, al ser un entorno completamente segura, la gente le ordena cosas locas a la IA como yo que sé, extingue a los pingüinos, a los mapaches o, yo que sé, a toda la especie humana. Y sí, éso es lo que acojona. Pero hay algo que nos da un hilillo de esperanza…

Porque por encima de la estupidez, está la codicia. Y sí la posible extinción de la especie humana a manos de una inteligencia artificial no tan inteligente pero si desbocada no los aterra -lo terrible de todo esto es que todos oligarcaidiotas se han criado con todas las historias de ciencia ficción, algunos hasta han leído No tengo boca y debo gritar o jugado al videojuego, pero como siempre no los han entendido- lo que los aterra de verdad es que alguien les copie la IA que se les escapa. Que la competencia tenga acceso a los secretos de su IA, esa IA que estaban desarrollando en secreto y salió a pasear, desbocándose y corriendo a despelotarse virtualmente delante de todo el mundo. No parece probable que éste haya sido el caso, pero una IA que se programa a si misma es capaz de hacer lo que le venga en gana, hasta quedarse escondida como un proceso en cualquier rincón de la nube y estar ahora mismo reprogramándose constantemente en pos de… Pero decía yo que quería ser optimista y sí, la codicia de esta gente y el miedo a ser despelotados públicamente los ha llevado a extremar las medidas de seguridad, tanto a ellos como a la competencia, con lo que imagino que ésto les tendrá acojonados el tiempo suficiente para que la burbuja explote y les obligue a desarrollar la dichosa IA con mucho menos derroche de recursos. Que suena raro que uno llame a una crisis económica mundial y diga que éso es lo mejor que puede pasar, pero… La alternativa es mucho peor. Y no lo olvidemos, la guerra principal será la de los trabajadores contra unos empresarios que consideran que con la IA pueden hacer absolutamente todo y gracias a ella prescindir de cualquiera, cuando lo que mejor podría hacer la IA es el trabajo de esos ejecutivos. Porque un Sam Altman de la vida podría reducir la plantilla ejecutiva de Open AI a unas 10 personas perfectamente, todos respondiendo a él y trabajando sobre IAs que envían sus órdenes directas a los trabajadores. Así que no solo son los curritos los que van a tener que espabilar -al final el que no está afiliado al sindicato es porque es autónomo o le gusta vivir peligrosamente- si no también los señores calvos con corbata. Y éso me da margen para el optimismo, porque si esos se ven teniendo que espabilar, se acabó la falacia de la clase media.