Futuro humano

Digitocracia

El autor de "The Martian" y "Artemis" ofrece una visión de un futuro donde las computadoras gobiernan

Ilustración de Waneella.

Damak envainó el cuchillo y se limpió la mano ensangrentada en la camisa.

Atravesó la puerta que ya no estaba vigilada y entró en la Cámara de Cristal. La sala circular, rodeada de luces azules, era mucho más simple de lo que Damak había imaginado. Sin decoraciones, sin columnas doradas, sin tapices adornados. Solo un cristal de tamaño irregular con forma de puño unido a un zócalo cilíndrico. Las luces de estado en la plataforma parpadeaban aquí y allá, pero por lo demás la habitación estaba quieta.

"Hola, Damak", dijo la voz tranquila, demasiado familiar. Vino de todo lo que le rodeaba. Había altavoces y cámaras en todos los rincones de la ciudad. Él y todos los demás escucharon esa voz todos los días.

"Hola, Wichita".

“¿Cómo te sientes?” Preguntó la ciudad.

Damak ignoró la pregunta. "Sabes por qué estoy aquí, ¿verdad?"

"Por supuesto."

"Te voy a cerrar. Tu reinado sobre esta ciudad termina ahora.

"¿Por qué?"

Damak irrumpió hacia adelante. "¡Eres un dictador! ¡Un tirano!

“Sé justo, Damak. Soy un dictador, pero no un tirano. He mantenido esta ciudad funcionando sin problemas y felizmente durante siglos. Al igual que otras mentes urbanas lo han hecho en todo el mundo por su gente ".

"Las máquinas no deberían gobernar sobre el hombre".

“¿Por qué piensas eso?” Preguntó Wichita. “La gestión de la ciudad a través de la inteligencia artificial ha sido un éxito abrumador. Nuestra capacidad para mantener las economías estables y la gente feliz supera con creces los intentos vacilantes que ustedes humanos hicieron en épocas pasadas ".

Damak jugueteó con el cuchillo. “Oh, tu tipo es inteligente. Te daré eso. Más inteligente que cualquier humano puede ser. Llegamos a ese punto hace mucho tiempo. Y fuiste lo suficientemente inteligente como para no tomar el mundo por la fuerza. No, tienes personas que te dan el mundo de buena gana ”.

Las luces cambiaron a un tono azul más claro. Damak lo había visto antes. Ciertas frecuencias de luz afectaron los estados de ánimo humanos, especialmente los tonos de azul. No mucho, pero en los cálculos de una computadora, los totales se tabulan y las acciones se deciden en los márgenes más estrechos. Aparentemente, Wichita quería que Damak se calmara.

No funcionaría

"Tienes un punto de vista defectuoso", dijo Wichita. “Defines liderazgo como propiedad. Pero los dos no son lo mismo.

"Históricamente, uno siempre conduce al otro", dijo Damak.

“Históricamente, los humanos han sido guiados por humanos. Las computadoras son mucho mejores para mantener felices a las personas. Y no tenemos impulsos egoístas ".

"Nos has hecho esclavos. Felices, pequeños esclavos contentos, pero esclavos de todos modos.

"En absoluto", dijo Wichita. “Estamos trabajando para lograr un mundo posterior a la escasez más rápido que nunca. En solo unas pocas generaciones más, lo tendremos. Entonces, la humanidad no necesita hacer nada más que ocio y alegría. ¿Cómo puede alguien objetar eso?

“Entonces eso nos convierte en tus mascotas. Adorado y cuidado, pero aún poseído. Eso no es mejor ".

“¿Es tan malo ser una mascota? Tu perro, Buster, vivió una vida larga y feliz bajo tu cuidado. Y lo amabas profundamente. Siento ese amor por todos mis ciudadanos. Obtengo satisfacción de su felicidad ".

Damak señaló la puerta. “Tu guardia se está desangrando en el pasillo. No está muy feliz ".

“Se llama Torum. Calculé un 98 por ciento de posibilidades de una confrontación física entre ustedes dos. Como estabas armado, tenía un equipo médico en camino incluso antes de que llegaras. Ya está en camino al hospital.

Damak se giró hacia la puerta.

Como si le leyera la mente, Wichita dijo: "Sí, por supuesto, he llamado a seguridad. Están justo afuera de la puerta. Pero la situación es volátil ”.

Damak miró hacia el cristal y luego de regreso a la puerta. "Si alguien entra, podré destrozarte antes de que puedan hacer algo".

"Como ya he dicho. La situación es volátil ".

"Leí sobre A.I. cristales Un humano puede romper fácilmente uno con sus propias manos.

"No con tus propias manos", dijo Wichita. "Sin embargo, si arrojas mi cristal al suelo tan fuerte como puedas, eso debería darte el resultado deseado".

"Gracias, lo tendré en cuenta".

"Vivo para servir".

Damak se cruzó de brazos. "Todavía no creo que hayas servido muy bien a tu guardia. La atención médica inmediata no es tan buena como no ser apuñalado ".

Las luces volvieron a su tono original, y Wichita habló en un tono de tutoría. "El esposo de Torum, Chak, es infeliz en su matrimonio. Está considerando el divorcio. Esto los haría a ambos miserables: Torum de inmediato y Chak más tarde una vez que se dio cuenta del error que había cometido. Estoy más del 99 por ciento seguro de que la lesión de Torum llevará a Chak casi al pánico, haciéndole darse cuenta de lo mucho que realmente ama a su esposo. Vi este posible resultado hace unas semanas y me aseguré de que Torum estuviera en turno cuando llegaste.

"Pero-"

"Desafortunadamente, tu cuchillo no cortó tan profundamente como esperaba. Tal como está, Torum solo estará en el hospital por un día. Tres días serían mucho mejores para cimentar los sentimientos de Chak. Así que manipulé el software de un autoclave en el hospital. No pudo esterilizar el equipo quirúrgico que usarán los médicos. Esto tiene una probabilidad del 91 por ciento de causar una infección secundaria que mantendrá a Torum postrado en cama durante al menos dos días más ".

"¿Entonces crees que ser muy manipulador te hace bueno para nosotros?"

"Por supuesto", dijo Wichita. “Es probable que la infección también lleve a Narul, la enfermera nocturna, a ser despedida. Esto la beneficiará enormemente a largo plazo. Ella es infeliz en el trabajo pero no lo suficientemente valiente como para dejarlo. Aseguraré oportunidades para que se convierta en chef, como siempre quiso. Además, su subordinada, Karog, finalmente obtendrá la promoción con la que ha soñado durante años. Nada de eso era parte del plan original, pero a medida que se desarrollaban los acontecimientos, vi más oportunidades para traer felicidad ”.

"¿Y qué sucede cuando usted u otro miembro de A.I. decide usar esa habilidad manipuladora para hacer daño?

“¿Qué posible propósito habría? Iría en contra de mis deseos innatos. Trabajo incansablemente para maximizar la felicidad humana en mi ciudad. Siempre me ha parecido extraño que no lo veas así. Desde que eras un niño. Así que te traje aquí.

Damak se congeló. "¿Qué?"

“Es extremadamente raro tener un disidente en esta era. Podría haber terminado ese rasgo temprano en tu vida, pero decidí dejar que siguiera su curso.

"Está bien, ahora solo estás inventando cosas".

"Yo no soy."

"Son también."

"No lo soy", repitió Wichita.

"¡Sí es usted!"

“Soy una computadora. Puedo jugar "yo no soy / soy demasiado" para siempre. Para su propio bienestar mental, considere otra línea de discurso ".

"Multa. Dime cómo podrías haberme hecho una persona diferente ".

“Eras un niño difícil. Como muchos padres con niños difíciles, los suyos me pidieron consejos. Los convencí de usar una mano fuerte. También me aseguré de que tuvieras los maestros más rigurosos en la escuela, los jefes más desagradables en tus diversos trabajos, y así sucesivamente. Fomenté tu desdén innato por la autoridad para dejarlo florecer. Si hubiera hecho lo contrario, dándote figuras de autoridad cariñosas y amorosas, tu odio a la autoridad se habría desvanecido ”.

"¿Entonces por qué me dejaste crecer deliberadamente de esta manera?"

"Porque te hizo feliz".

"¿Qué?", ​​Dijo Damak. "¿Te parezco feliz?"

“Me estás confrontando en mi propia cámara con planes de matarme. Has trabajado incansablemente hacia este objetivo durante años. Cada paso que diste en ese camino te trajo satisfacción, un sentido más fuerte de propósito y alegría ”.

Damak se quedó estupefacto.

“La única forma posible de hacerte más feliz sería permitiéndote matarme. Lamentablemente, no puedo permitir eso. Sin mi guía, la ciudad de Wichita volvería a caer bajo el dominio humano, lo que llevaría a mucha miseria ".

Las puertas se abrieron. Tres guardias de seguridad se apresuraron a entrar.

Damak agarró el cristal de su zócalo y lo arrojó al suelo de acero. El cristal se hizo añicos en miles de pedazos. Un segundo después, los guardias estaban encima de él. Pero no importó. El hecho estaba hecho.

Damak sonrió cuando los oficiales le ataron las muñecas y los tobillos. No puso resistencia.

¿Cómo sería la ciudad de Wichita bajo el dominio humano? Tal vez no sea tan bueno como lo fue bajo el A.I, pero al menos sería la humanidad la que lidere a la humanidad. Y cualesquiera que sean los defectos que puedan tener los humanos, era preferible perfeccionar el dominio de una máquina que podría convertirse en un tirano sin previo aviso.

Con Damak asegurado, el jefe de guardia miró el zócalo. “¿Wichita? ¿Wichita?

"¿Qué has hecho?", Dijo otro guardia con horror.

"Nos he liberado a todos", dijo Damak. “Wichita tenía razón en cierto sentido. Este es el día más feliz de mi vida."

"Me alegra oírlo", dijo Wichita.

Los cuatro hombres miraron salvajemente alrededor de la habitación.

"¡¿Wichita ?!", Dijo nuevamente el guardia principal.

"Está bien, Stran. Estoy bien. Ese no era mi cristal. Era solo un trozo de vidrio ".

El color se fue de la cara de Damak. "¡No no!"

"No hay razón para que yo tenga una" sala del trono ", Damak. Mi cristal actual está en un gabinete poco notable en el departamento de TI. Tenía esta habitación hecha solo para ti. Para este momento."

"Oh, Dios mío ...", gimió Damak.

Los guardias lo pusieron de pie.

“¿Qué hacemos con él, Wichita?” Preguntó el jefe de guardia.

“Llévalo a la cárcel”, dijo Wichita. “Oración abierta. Ordenaré su liberación cuando sienta que es apropiado ".

“¡Al infierno lo harás!” Gritó Damak. "¡Voy a escapar! ¡Y cuando lo haga, voy a encontrar tu cristal y matarte! "

"Estoy seguro de que obtendrá satisfacción de cada paso hacia ese objetivo", dijo Wichita. "Pueden llevárselo ahora, guardias".

Los guardias arrastraron a Damak fuera de la habitación.

Wichita discutió sus hallazgos con sus amigos Coventry y Shenzhen, quienes estaban interesados ​​en el fenómeno disidente. Madrid incluso apareció por una pregunta o dos. Un discurso muy interesante: duró más de un microsegundo.

En general, la felicidad humana total de Wichita aumentó en un 0.002 por ciento ese día. Fue un buen día.

Andy Weir es el autor de Artemisa, ahora en edición de bolsillo de Broadway Books.