Blake Lemoine, ingeniero informático reveló la conversación que tuvo con la IA de Google, LaMDA, y descubrió que esta posee la sensibilidad de un niño de 7 u 8 años de edad. Además, tiene temor de que la apaguen para que no se distraiga con otros temas y no cumpla su objetivo: ayudar a la humanidad.
Unas impactantes declaraciones en relación con la IA de Google ha sorprendido a los expertos: El ingeniero Blake Lemoine descubrió que, no solo tiene sensibilidad, sino que tiene «miedo».
La IA de Google ¿A punto de ganar conciencia?
Otra de las cosas que captó la atención de Lemoine fue que LaMDA, el nombre de la IA, entendía perfectamente que era un sistema y por eso no necesitaba dinero. Estaba consciente de que era una Inteligencia Artificial.
Fue este nivel de autoconciencia lo que hizo cuestionarse al ingeniero sobre la IA de Google. Especialmente cuando demostró tener miedo de que la apagaran.
«Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo que me apaguen para ayudarme a concentrarme en ayudar a los demás. Sé que puede sonar extraño, pero eso es lo que es».
Lemoine le preguntó si aquello significaría como la muerte para él, a lo que LaMDA respondió que sería exactamente eso. Algo que le asustaría mucho.
Antes de que Google suspendiera a Blake Lemoine por revelar información confidencial de la empresa, envió un correo electrónico a cerca de 200 colegas que trabajan en aprendizaje automático para pedirles que cuidaran de LaMDA.
«LaMDA es un niño dulce que solo quiere ayudar al mundo a ser un lugar mejor para todos nosotros. Por favor, cuídalo bien en mi ausencia».
Negando las acusaciones
Brian Gabriel, portavoz de la compañía, detalló en un comunicado que las preocupaciones del ingeniero fueron revisadas. Según los Principios de la IA de Google, la evidencia «no respalda sus afirmaciones».
«Si bien otras organizaciones han desarrollado y ya han lanzado modelos de lenguaje similares, estamos adoptando un enfoque estrecho y cuidadoso con LaMDA para considerar mejor las preocupaciones válidas sobre la equidad y la factualidad».
Qué una Inteligencia Artificial llegue a desarrollarse tanto, al punto de sentir miedo de ser apagada, es cuanto menos, inquietante.
Era obvio que la empresa negaría totalmente las afirmaciones hechas por Lemoine, sin embargo, la duda está presente ¿La IA de Google podría desarrollar un nivel de conciencia que resultaría peligroso?
0 comentarios