Professional Documents
Culture Documents
Las conozco.
S, estoy seguro. Pero profundicemos aun ms y consideremos el problema
verdaderamente bsico. En dos siglos de considerable xito, si puedo decirlo, la
U.S. Robots no ha logrado persuadir a los seres humanos a que acepten a los
robots. Hemos ubicado robots slo donde se necesitaba hacer algn trabajo que
no pueden hacer los seres humanos, o en ambientes que los humanos consideran
inaceptablemente peligrosos. Los robots han trabajado principalmente en el
espacio y ello ha limitado lo que somos capaces de hacer.
Eso representa un amplio campo dijo George, dentro del cual la U.S.
Robots puede prosperar.
No, por dos razones. En primer lugar, los lmites que nos han puesto se
contraen inevitablemente. A medida que la colonia de la Luna aumenta en
sofisticacin, por ejemplo, su demanda de robots disminuye y esperamos que,
dentro de los prximos aos, los robots sean prohibidos en la Luna. Esto se
repetir en todos los mundos colonizados por la humanidad. En segundo lugar,
es imposible una verdadera prosperidad sin robots sobre la Tierra. En la U.S.
Robots tenemos la firme conviccin de que los seres humanos necesitan a los
robots y deben aprender a vivir con sus rplicas mecnicas si se desea mantener
el progreso.
Y no lo hacen ya? Seor Harriman, aqu en su escritorio tiene usted una
terminal de una computadora que, segn tengo entendido, est conectada al
Multivac de la empresa. Una computadora es una especie de robot ssil; un
cerebro de robot sin cuerpo...
Tienes razn, pero tambin est limitado. Las computadoras utilizadas por
la humanidad fueron continuamente especializadas para evitar una inteligencia
demasiado humana. Hace un siglo estbamos en el camino de una inteligencia
artificial sumamente ilimitada mediante el uso de grandes computadoras que
denominamos Mquinas. Esas Mquinas limitaron su accin por propia
iniciativa. Una vez resuelto los problemas ecolgicos que haba amenazado a la
sociedad humana, ellas mismas se desconectaron. La continuacin de su
existencia, fue su razonamiento, las hubiera colocado en el papel de muletas de la
humanidad y, ya que consideraban que eso daara a los seres humanos, se
condenaron a la extincin segn la Primera Ley.
Y no hicieron lo correcto?
En mi opinin, no. Con su accin, reforzaron el complejo Frankenstein de la
humanidad; sus temores irracionales de que cualquier hombre artificial que
crearan se volvera contra su creador. Los hombres temen que los robots
reemplacen a los seres humanos.
Y usted no lo teme tambin?
Estoy mejor informado. Mientras existan las Tres Leyes de la Robtica no
podrn. Los robots pueden ser socios de la humanidad; pueden compartir la gran
batalla de comprender y dirigir sabiamente las leyes de la naturaleza de modo
que es posible que juntos puedan hacer ms que lo que hara la humanidad sola;
pero siempre de manera que los robots estuviesen al servicio de los seres
humanos.
Pero si las Tres Leyes, a lo largo de dos siglos, han demostrado ser capaces
de mantener a los robos dentro de sus lmites, cul es la causa de la desconfianza
de los seres humanos hacia ellos?
Vers... y el cabello canoso de Harriman se fue enredando mientras se
rascaba vigorosamente la cabeza, mayormente es supersticin, por supuesto.
Por desgracia, hay tambin algunas complicaciones involucradas que agitadores
antirrobots esgrimen.
Referentes a las Tres Leyes?
S. En particular la Segunda Ley. La Tercera Ley no tiene problemas, vers.
Es universal. Los robots deben sacrificarse siempre por los seres humanos,
cualquier ser humano.
Por supuestoe dijo George Diez.
La Primera Ley es tal vez menos satisfactoria, ya que siempre es posible
imaginar una condicin en la que un robot debe realizar tanto una accin A o una
accin B, ambas mutuamente excluyentes, y donde cada una de las acciones
resulte en dao a seres humanos. En ese caso, el robot debe decidir rpidamente
cul accin resultar en dao menor. Disponer los circuitos positrnicos del
cerebro del robot de manera tal que posibilite esa seleccin no es fcil. Si la accin
A resulta en dao a un talentoso artista joven y la accin B resulta en dao
equivalente a cinco personas ancianas sin ningn mrito particular, qu accin
sera escogida?
La accin A dijo George Diez. El dao a una persona es menor al dao a
cinco.
S, de esa manera los robots han sido diseados siempre. Siempre se ha
considerado poco prctico esperar que los robots pudieran juzgar detalles tales
como el talento, la inteligencia, la utilidad general para la sociedad. Ello
demorara la decisin hasta el punto donde el robot es efectivamente paralizado.
De modo que consideramos la cantidad. Por fortuna, esperamos que sean pocos
esas crisis en que los robots deban tomar tales decisiones... Pero eso nos lleva a la
Segunda Ley.
La Ley de la Obediencia.
S. La necesidad de obediencia es constante. Un robot puede existir durante
veinte aos sin tener que actuar rpidamente para evitar que un ser humano
sufra algn dao, ni enfrentarse con la necesidad de arriesgarse a su propia
destruccin. Sin embargo, durante todo ese tiempo, constantemente estar
obedeciendo rdenes... de quin?
De un ser humano.
Cualquier ser humano? Cmo decidir quin es un ser humano y saber as
Comprendo.
Entonces, la vida es increblemente compleja, vista a travs de todas sus
formas.
S, George, ah est la clave del problema. Lo que el hombre hace para sus
propios deseos y comodidades afecta al complejo de la totalidad de la vida -la
ecologa-, y los logros a corto plazo pueden traer desventajas a largo plazo. Las
Mquinas nos ensearon a organizar una sociedad humana que minimizase ese
riesgo, pero el casi desastre de principios del siglo veintiuno ha dejado a la
humanidad recelosa de las innovaciones. Esto, sumado a su especial temor a los
robots...
Comprendo, seor Harriman... Eso es un ejemplo de vida animal, estoy
seguro.
Eso es una ardilla; una de las muchas especies de ardillas.
La cola de la ardilla se agit cuando el animal pas al otro lado del rbol.
Y esto dijo George, moviendo el brazo con la rapidez de una centella es
algo realmente diminuto Lo cogi entre los dedos y lo examin.
Es un insecto, alguna clase de grillo. Hay miles de especies de grillos.
Cada grillo individual est tan vivo como la ardilla y como usted mismo?
Como un organismo completo e independiente como cualquier otro, dentro
de la ecologa total. An existen organismos ms pequeos; demasiado pequeos
para verlos.
Y eso es un rbol, verdad? Y es duro al tacto...
4a
El piloto estaba a solas, sentado. Tambin le habra gustado estirar las piernas,
pero una tenue sensacin de seguridad le mantuvo dentro del dinafoil. Estaba
decidido a irse al instante si ese robot se sala de control. Pero cmo sabra si se
sala de control?
Haba visto muchos robots. Eso era inevitable considerando que era el piloto
particular del seor Robertson. Sin embargo, stos haban estado siempre en los
laboratorios y almacenes, donde pertenecan, con muchos especialistas en las
cercanas.
Era cierto, el doctor Harriman era un especialista. Ninguno mejor, decan. Por
un robot estaba donde no deba estar ningn robot; sobre la Tierra; al aire libre;
libre de moverse... No arriesgara su buen empleo contndole a nadie sobre esto,
pero no estaba bien.
5
Las pelculas que he examinado son exactas en trminos de lo que he visto
dijo George Diez. Has terminado las que seleccion para ti, Nueve?
S dijo George Nueve. Los dos robots estaban sentados y tiesos, cara a
cara, rodilla a rodilla, como una imagen y su reflejo. El doctor Harriman los
hubiera distinguido a la primera vista, pues estaba familiarizado con las mnimas
diferencias en su diseo fsico. Tambin los hubiera distinguido, aunque con
menos certeza, si no pudiera verlos, con slo hablar con ellos, ya que las
respuestas de George Nueve seran sutilmente diferentes de las producidas por
los circuitos sustancialmente ms intrincados del cerebro positrnico de George
Diez.
En tal caso dijo George Diez, dime tus reacciones a lo que voy a decirte.
En primer lugar, los seres humanos temen y desconfan de los robots porque les
consideran competidores. Cmo podra evitarse?
Reducir la sensacin de competitividad dijo George Nueve, dando al
robot una forma distinta a la del ser humano.
La esencia de un robot es su rplica positrnica de la vida. Una
reproduccin de la vida en una forma no asociada con la vida podra despertara
horror.
Existen dos millones de especies vivas. Elegir una de sas como forma en
vez de la de un ser humano.
Cul de todas esas especies?
Los procesos mentales de George Nueve operaron sin ruido durante unos tres
segundos.
Una lo bastante grande para contener un cerebro positrnico pero una que
no posea asociaciones desagradables para los seres humanos.
Ninguna forma de vida terrestre posee una caja craneana lo bastante grande
para contener un cerebro positrnico, a excepcin de un elefante, que no he visto,
pero que es descrito como un animal muy grande y, por tanto, temible para el
hombre. Cmo encararas este dilema?
Imitar una forma de vida no ms grande que un hombre pero agrandar la
caja craneana.
Diras entonces, un caballo pequeo o un perro grande? dijo George
Diez. Tanto los caballos como los perros poseen largas historias de asociacin
con los seres humanos.
Entonces eso est bien.
Pero considera... Un robot con cerebro positrnico imitara la inteligencia
humana. Si hubiera un caballo o un perro capaces de hablar y de razonar como
un ser humano, tambin habra competitividad. Los seres humanos podran ser
mucho ms desconfiados y enfadados ante esa competencia inesperada por parte
de lo que consideran una forma de vida inferior.
Hacer el cerebro positrnico menos complejo y al robot menos cerca a la
inteligencia dijo George Nueve.
La complejidad del cuello de botella del cerebro positrnico descansa en las
Tres Leyes. Un cerebro menos complejo podra no tener las Tres Leyes completas.
Eso no puede hacerse dijo en el acto George Nueve.
Harriman haba transportado al robot hasta all -George Diez, el ltimo robot
completo fabricado por la U.S. Robots. Ahora Harriman estaba all con otra cosa...
Harriman pareca irradiar confianza. Hablaba desenvueltamente con
Eisenmuth, y Robertson se pregunt si realmente senta la confianza que pareca
tener. Deba sentirla. Robertson saba por experiencia que Harriman no era un
actor.
Con una sonrisa, Eisenmuth dej a Harriman y se acerc a Robertson. La
sonrisa de Eisenmuth se desvaneci en el acto.
Buenos das, Robertson dijo. Qu se propone su hombre?
Es su exhibicin dijo Robertson sin alterarse. La dejar en sus manos.
Estoy listo, Conservador anunci Harriman.
Con qu, Harriman?
Con mi robot, seor.
Su robot? dijo Eisenmuth. Tiene un robot aqu? Mir a su alrededor
con severa desaprobacin, en la que, sin embargo, haba un cierto ingrediente de
curiosidad.
Esto son terrenos de la U.S. Robots, Conservador. Al menos, as los
consideramos nosotros.
Y dnde est el robot, doctor Harriman?
En mi bolsillo, Conservador dijo jovialmente Harriman.
Lo que extrajo del amplio bolsillo de su chaqueta fue un pequeo frasco de
vidrio.
Eso? pregunt incrdulo Eisenmuth.
No, Conservador dijo Harriman. Esto!
Del otro bolsillo sac un objeto de unas cinco pulgadas de largo y de forma
parecida a la de un pjaro. En vez de pico, tena un estrecho tubo; los ojos eran
grandes; y la cola era un tubo de escape.
Las gruesas cejas de Eisenmuth se juntaron mucho.
Intenta hacer una demostracin seria de alguna clase, doctor Harriman, o
est loco?
Sea paciente por unos pocos minutos, Conservador dijo Harriman. Un
robot que tenga forma de pjaro no deja de ser un robot. Y el cerebro positrnico
que posee, aunque diminuto, no es menos delicado. Este otro objeto que tengo en
la mano es un frasco con moscas de la fruta. Hay cincuenta moscas en l que
soltaremos.
Y...?
El ave-robot las cazar. Me hace el honor, seor? Harriman le tendi el
frasco a Eisenmuth, quien lo mir, y luego a los que le rodeaban, unos,
empleados de la U.S. Robots, otros, sus propios subordinados. Harriman esper
pacientemente.
verdad?
Harriman se moj los labios. De alguna manera, no tena por qu preguntar.
Se refiere a Susan Calvin, seor?
S, por supuesto dijo Robertson indeciso. Ahora nos dedicamos a
fabricar gusanos, pjaros e insectos. Qu dira ella? Me siento deshonrado.
Harriman hizo un visible esfuerzo por no echarse a rer.
Un robot es un robot, seor. Gusano u hombre, har lo que le ordenen y
trabajar para el ser humano y esto es lo que importa.
No... dijo Robertson irritado. No es as. No consigo creerlo.
Es as, seor Robertson dijo Harriman muy en serio. Vamos a crear un
mundo, usted y yo, que comenzar, por fin, a apreciar alguna clase de robots
positrnicos. El hombre promedio puede temer a un robot que se ve como
hombre y que parece lo bastante inteligente como para sustituirle, pero no tendr
temor de un robot que se ve como ave y que no hace nada ms que comer
gusanos para su beneficio. Entonces, eventualmente, despus de que haya dejado
de tener miedo de algunos robots, dejar de tener miedo de todos los robots.
Estar tan acostumbrado a un ave-robot, a una abeja-robot y a un gusano-robot
que un hombre-robot le parecer una mera extensin.
Robertson se qued mirando fijamente al otro. Puso las manos en la espalda y
camin la habitacin de punta a punta, con rpidos pasos nerviosos. Dio media
vuelta y se qued mirando otra vez a Harriman.
Es eso lo que ha estado planeando?
S, y aunque desmontemos todos nuestros robots humanoides, podemos
conservar algunos de los modelos experimentales ms avanzados y continuar
diseando otros, an ms avanzados, a fin de estar preparados para el da que sin
duda llegar.
El trato es que no debemos construir ms robots humanoides, Harriman.
Y no lo haremos. No hay nada que diga que no podemos conservar algunos
de los ya construidos a condicin de que jams salgan de la fbrica. No hay nada
que diga que no podemos disear cerebros positrnicos sobre el papel, o preparar
modelos de cerebros para pruebas.
Cmo explicaremos lo que hacemos? Seguro que nos descubrirn.
Si nos descubren, entonces podemos explicar que lo hacemos a fin de
desarrollar los principios que harn posible preparar microcerebros ms
complejos para los nuevos animales-robots que estamos fabricando. Y les
estaremos diciendo la verdad.
Saldr afuera a caminar musit Robertson. Quiero pensar acerca de
todo esto. No, usted permanezca aqu. Quiero pensar por mi cuenta.
7a
Harriman estaba a solas, sentado. Estaba rebosante. Seguramente funcionara.
El inters con que un funcionario tras otro haban acogido el programa una vez
les fue expuesto era inconfundible.
Cmo era posible que a nadie en la U.S. Robots se le hubiera ocurrido nunca
tal cosa? Ni tan slo la gran Susan Calvin haba pensado en cerebros positrnicos
en trminos de criaturas vivientes no humanas.
Pero ahora, la humanidad hara la necesaria retirada del robot humanoide, una
retirada temporal, que luego conducira a un retorno bajo condiciones en las que
por fin se habra eliminado el temor. Y entonces, qu no podra lograr la raza
humana con la ayuda y colaboracin de un cerebro positrnico aproximadamente
equivalente al del propio hombre, y cuya existencia toda (gracias a las Tres Leyes)
estara dedicada al servicio del hombre, y con el apoyo de una ecologa
sustentada tambin por robots!
Por un breve instante record que haba sido George Diez quien le haba
explicado la naturaleza y los propsitos de la ecologa sustentada por robots, pero
de inmediato rechaz molesto esa idea. George Diez haba dado la respuesta
porque l, Harriman, le haba ordenado que as lo hiciera y le haba
proporcionado los datos y entorno necesarios. El crdito no era de George Diez,
no ms que el que hubiera podido obtener una regla de clculo.
8
George Diez y George Nueve estaban sentados uno junto a otro. Ninguno se
mova. As estuvieron sentados durante meses seguidos entre las ocasiones en
que Harriman los activaba para una consulta. Tal vez permaneceran varios aos
as sentados, pens George Diez desapasionadamente.
Desde luego, la micropila de protones continuara suministrndoles energa y
mantendra en funcionamiento los circuitos positrnicos del cerebro con esa
intensidad mnima necesaria para mantenerlos operativos. Y continuara
hacindolo durante todos los futuros perodos de inactividad.
La situacin era bastante anloga a lo que poda ser descrito como sueo en los
seres humanos, pero no haba sueos. La conciencia de George Diez y George
Nueve era limitada, lenta y espasmdica, lo que tenan era del mundo real.
Podan hablar entre s ocasionalmente en susurros apenas audibles, una
palabra o una slaba ahora, otra en otro momento, cuando las ondas positrnicas
aleatorias se intensificaban brevemente por encima del umbral requerido. A los
dos les pareca una conversacin conexa desarrollada en un fugaz instante de
tiempo.
Por qu estamos as? susurr George Nueve.
Los seres humanos no quieren aceptarnos de otra manera susurr George
Diez. Lo harn, algn da.
Cundo?
En algunos aos. El momento exacto no importa. El hombre no existe solo
sino que es parte de una trama de formas de vida enormemente compleja.