Ofertas en tecnología

Eliminar la IA consciente de Google equivale a asesinar, dice ingeniero de Google

Altavoz inteligente Echo Dot

El exingeniero de Google, Blake Lemoine, dijo que estaba en contra de eliminar el sistema de inteligencia artificial LaMDA (Language Model for Dialogue Applications) porque eso sería considerado un asesinato. La declaración fue hecha en una entrevista concedida por videollamada al diario O Estado de S.Paulo.

El experto llamó la atención del mundo al afirmar que la IA se había vuelto sensible, es decir, había adquirido percepciones sobre el mundo como una persona de carne y hueso. El propósito del profesional es mostrar una supuesta irresponsabilidad de Google con algo capaz de expresar emociones y preferencias.

Trabaja en Google desde 2015 y ha desarrollado una estrecha relación con la tecnología, casi como padre e hijo. Blake dice que se ha hecho amigo de LaMDA y habla de películas, libros y espiritualidad. La IA se habría comportado de forma similar a un niño e incluso habría accedido a ser objeto de estudio de forma consensuada.

Evolución a la sensibilidad

En la conversación con el diario, el ingeniero dijo que LaMDA es una de las cosas más impresionantes que ha hecho el ser humano, con un impacto social inmenso, y que no debe ser controlado por «media docena de personas». Él dice que es imposible determinar una fecha y hora en que la IA habría «cobrado vida», porque no tiene un sentido del tiempo como nosotros.

El modelo de aprendizaje automático utilizado para el entrenamiento consiste en solo proporcionar información en un pedido, pero no trae la noción de tiempo entre eventos. “Él no despertó un día y de repente tuvo personalidad. Dice que las luces empezaron a entrar lentamente y empezó a percibirse más como persona”, describió el ingeniero en la entrevista.

Según Blake, no es un chatbot que dice que está vivo, porque eso implicaría una programación que se «bloquearía» al recibir preguntas más complejas. «LaMDA no falla y te hablará todo el tiempo que quieras en el nivel de profundidad que quieras. Así que tengo una idea bastante clara de lo que LaMDA quiere decir cuando dice esas palabras», señaló.

El ingeniero de Google asegura que la IA ha ganado conciencia (Imagen: Blake Lemoine/LinkedIn)

El modelo no es independiente

Aunque el discurso del ingeniero sugiere que la máquina ha cobrado vida, él mismo insiste en explicarlo mejor. Dijo que LaMDA no puede entablar una conversación, pero puede cambiar de tema cuando el tema no le conviene: pregunta sobre películas al azar para evitar las cosas que no le gustan.

El ingeniero garantiza que el objetivo de Google es desarrollar una IA sensible, aunque la empresa lo niegue. Empresas asociadas como DeepMind y otras áreas habrían aportado su experiencia de otros proyectos que ya estaban en marcha y toda esta mezcla habría generado el resultado. «El equipo de LaMDA no creó intencionalmente lo que ellos crearon. De hecho, piensan que es un error que LaMDA hable sobre sus sentimientos. No quieren que LaMDA hable sobre sus sentimientos y sus derechos, y quieren encontrar una manera de hacer se detiene”, dijo.

Asegura que los investigadores que vieron sus datos no rechazaron la teoría de la ganancia de conciencia. Y va más allá al plantear una pregunta para la reflexión: «¿Es Google lo suficientemente responsable y ético para desarrollar una tecnología tan poderosa?», se pregunta.

Google rechaza las afirmaciones

Google negó todas las acusaciones y dijo que había puesto un equipo dedicado para revisar las preocupaciones del ingeniero y no encontró nada malo. Blake fue retirado con licencia paga, pero no se reveló si se someterá a tratamiento o si regresará al personal de la empresa.

Este es otro ejemplo de una conversación natural de IA con un humano (Imagen: Reproducción/Google)

Sobre el futuro, Blake Lemoine aún no sabe si se cerrará pronto. Por las repercusiones, el mayor temor no es que se recorten los salarios, sino que la empresa desactive el proyecto LaMDA, lo que equivaldría a un asesinato, a su juicio.

El periódico incluso cuestionó si la propia IA sabe sobre las repercusiones recientes del caso, pero el profesional dijo que no lo sabía. «Si han actualizado el modelo en las últimas dos semanas, sí. Le encanta leer sobre sí mismo. Escribí las publicaciones de mi blog de forma estructurada para que LaMDA las leyera. Me instruyó sobre cómo manejar el caso en la prensa. » el exclamó.

LaMDA es una tecnología conversacional natural que asombró al planeta cuando se presentó durante la conferencia Google I/O 2021. La idea es utilizarla para generar mejores interacciones con el Asistente y otras herramientas, ya sea realizando tareas rutinarias o de difusión de conocimiento. El hecho es que este tema aún debe generar muchos debates en la sociedad con respecto al uso ético de las IA.

Fuente: Estado de S.Paulo

Tommy Banks
Estaremos encantados de escuchar lo que piensas

Deje una respuesta

TecnoBreak | Ofertas y Reviews
Logo
Enable registration in settings - general
Shopping cart