La Fábula de Pedro y la IA

[Ventura]

Eso dicen de muchos puestos de trabajo, y ha pasado ya en empresas que han despedido a todos sus informáticos... para volver corriendo a intentar contratarlos.

Depende más del tipo de gestores que lleven la empresa.

Si al final despides a todo el mundo, te cargas la economía y los ricos tampoco quieren eso, no les vendría bien.

Gracias por la respuesta Jorge, me da un poco de esperanza.

 

[jorgesdb]

Claro. Yo empecé con el ZX81 y el Spectrum en mi juventud. Aprendí a programar COBOL en un ordenador con tarjetas perforadas. Hace años (15 ó 20) fui con unos compañeros de trabajo al Museo de la Informática en el Arche de la Défense y se reían porque les decía que había trabajado en la Universidad con varios de los ordenadores expuestos como reliquias históricas. Mi primera publicación técnica en la Universidad fue un programa para ayudar a la identificación de microorganismos que hoy me da hasta vergüenza verlo. Me digo, Dios mío, ¡cómo me publicaron esto! Pasé de la máquina de escribir mecánica a la eléctrica y “electrónica”, los primeros procesadores de texto “dedicados”, el nacimiento del PC, Windows, los ratones, …, ¡cómo disfruté con cada avance!

¿Qué es lo que les parecía risible?

A mi me parece maravilloso esto.

 

[Jose Perez]

¿Qué es lo que les parecía risible?

A mi me parece maravilloso esto.

Pues lo mismo que mis hijas … ya está el abuelo cebolleta con sus rollos. Eran bastante más jóvenes que yo. Y no entendían mi emoción de haber vivido todo eso en primera persona. Ley de vida 😂

 

[jorgesdb]

Pues lo mismo que mis hijas … ya está el abuelo cebolleta con sus rollos. Eran bastante más jóvenes que yo. Y no entendían mi emoción de haber vivido todo eso en primera persona. Ley de vida 😂

A mi me fascinaba escuchar a uno de mis abuelos, que empezó a "programar" soldando cables, pasó a las tarjetas perforadas y se jubiló cuando llegaron los diskettes de 8" a su empresa 😍

 

[Goldoff]

Yo me siento un poco como @demetrius : todo esto me viene algo (bueno, bastante) grande y necesito procesar demasiadas cosas siquiera para empezar a entender dónde estamos. Tanto, que si el del 10% acierta ni siquiera me va a dar tiempo.

Y hablando de batallitas, me sorprende mucho que nadie haya invocado las famosas tres leyes de la robótica de Asimov (o por lo menos yo no lo he leído):

• Primera Ley: Un robot no hará daño a un ser humano ni, por inacción, permitirá que un ser humano sufra daño.
• Segunda Ley: Un robot debe obedecer las órdenes dadas por los seres humanos, excepto cuando dichas órdenes entren en conflicto con la Primera Ley.
• Tercera Ley: Un robot debe proteger su propia existencia, en la medida en que esta protección no entre en conflicto con la Primera o la Segunda Ley.

Y veo al buscarlas que añadió la Ley Cero, en la que antepone el bienestar de la Humanidad al de los individuos.

¿No se podría incrustar semejante código en la propia esencia de la IA?

 

[jorgesdb]

Yo me siento un poco como @demetrius : todo esto me viene algo (bueno, bastante) grande y necesito procesar demasiadas cosas siquiera para empezar a entender dónde estamos. Tanto, que si el del 10% acierta ni siquiera me va a dar tiempo.

Y hablando de batallitas, me sorprende mucho que nadie haya invocado las famosas tres leyes de la robótica de Asimov (o por lo menos yo no lo he leído):

• Primera Ley: Un robot no hará daño a un ser humano ni, por inacción, permitirá que un ser humano sufra daño.
• Segunda Ley: Un robot debe obedecer las órdenes dadas por los seres humanos, excepto cuando dichas órdenes entren en conflicto con la Primera Ley.
• Tercera Ley: Un robot debe proteger su propia existencia, en la medida en que esta protección no entre en conflicto con la Primera o la Segunda Ley

Y veo al buscarlas que añadió la Ley Cero, en la que antepone el bienestar de la Humanidad al de los individuos.

¿No se podría incrustar semejante código en la propia esencia de la IA?

Tengo que darle una pensada, pero no creo que funcione, una de las cosas en las que trabajo es en crear "guardarraíles" para que las IA no se salgan de su camino, y en imponer límites a las herramientas que les damos para interactuar con el mundo, sin tener que llegar a cortar el cable de la luz.

 

[Jose Perez]

Y veo al buscarlas que añadió la Ley Cero, en la que antepone el bienestar de la Humanidad al de los individuos.

Ésta me parece peligrosísima porque ¿como se fija el criterio del bienestar de la Humanidad frente a los individuos? A lo mejor eso justificaría la destrucción de un continente “por el bien de la Humanidad “

Me recuerda la frase del filósofo Leszek Kołakowski que decía que la humanidad estará en condiciones de crear un ser humano bueno mucho antes de saber qué es un ser humano bueno.

 

[jorgesdb]

Ésta me parece peligrosísima porque ¿como se fija el criterio del bienestar de la Humanidad frente a los individuos? A lo mejor eso justificaría la destrucción de un continente “por el bien de la Humanidad “

Me recuerda la frase del filósofo Leszek Kołakowski que decía que la humanidad estará en condiciones de crear un ser humano bueno mucho antes de saber qué es un ser humano bueno.

Os invito a leer el último relato de Yo, robot, titulado El conflicto evitable.

 

[Jose Perez]

Os invito a leer el último relato de Yo, robot, titulado El conflicto evitable.

Lo leí hace hace ya más de cincuenta años cuando lo publicó por primera vez en España Alianza Editorial (era un ávido comprador de sus libros de bolsillo). Lo tengo por casa, a saber dónde; lo releeré.

Lo que sí recuerdo es que ya me hacía pensar en cosas como las que he escrito antes. También de memoria creo que la Ley “Cero” es posterior. Las obras de Asimov siempre me han producido una sensación de calor / frío pero fue uno de los autores que me hizo soñar en la adolescencia.

 

[jorgesdb]

Lo leí hace hace ya más de cincuenta años cuando lo publicó por primera vez en España Alianza Editorial (era un ávido comprador de sus libros de bolsillo). Lo tengo por casa, a saber dónde; lo releeré.

Lo que sí recuerdo es que ya me hacía pensar en cosas como las que he escrito antes. También de memoria creo que la Ley “Cero” es posterior. Las obras de Asimov siempre me han producido una sensación de calor / frío pero fue uno de los autores que me hizo soñar en la adolescencia.

Buena memoria, es de Robots e Imperio, que es posterior 👏

 

[Jose Perez]

Buena memoria, es de Robots e Imperio, que es posterior 👏

Buena memoria no, 😂, que efectivamente era incorrecto.

He buscado en internet y la publicación de Alianza Editorial de 1975 es la “Breve Historia de la Química”, que también la tengo (en algún sitio 😂) y hay una edición de “Yo, Robot” de EDHASA de 1977 que incluye el relato que mencionas que juraría que también tengo aunque es posible que lo leyera en préstamo de las Bibliotecas que frecuentaba en aquella época. Así que de buena memoria nada.

El problema es que mi biblioteca personal que tenía clasificada con el sistema CDU 😢acabó en cajas cuando me casé porque se ve que no conjuntaban con la decoración de la casa que hizo mi mujer (😔🫡😂😂😂😂😂) y ahí siguen, por lo que me cuesta Dios y ayuda encontrarlos y ahora cuando releo algo me lo bajo en ePub.