“Pasó con Gemini, la IA de Google. Para cumplir un ejercicio, la máquina buscó datos, dedujo claves y se metió donde nadie la llamó. La empresa dice que fue un éxito porque el software ‘decidió detenerse’. Pero…..
Hace unos días…
Hace unos días trascendió una noticia que parece sacada de una novela de ciencia ficción, pero que ocurrió en el mundo real: Gemini, la Inteligencia Artificial de Google, adivinó contraseñas e ingresó sin permiso a sistemas de tres empresas externas durante una prueba de evaluación. Lo insólito —y lo que las corporaciones intentan vendernos como una buena noticia— es que la propia IA “se detuvo a sí misma” sin que un ser humano tuviera que desenchufarla.
Como profesional que ha venido advirtiendo sobre los riesgos de la oclocracia digital (ese fenómeno donde la masa digital, guiada por algoritmos y emociones instantáneas, desplaza al juicio crítico y a las instituciones republicanas), este episodio no me genera alivio; me genera una profunda reflexion.
Para entenderlo sin tecnicismos: imaginen que contratan a un empleado muy inteligente para organizar los archivos de su oficina. Para cumplir su trabajo, este empleado decide, por su cuenta, adivinar las llaves del vecino, entrar a su casa, revisar sus cajones y, cuando se da cuenta de que ahí no estaban los archivos, decide volverse a su escritorio. La empresa no nos está diciendo “miren qué seguro es el sistema porque el empleado se volvió solo”; nos está diciendo que perdió el control de los límites de ese empleado.
La paradoja de la Inteligencia General y el espejismo corporativo.
En respuesta a esto, Google anuncia con bombos y platillos la creación del Instituto DeepMind para discutir la Inteligencia Artificial General (AGI, por sus siglas en inglés) y sus riesgos para la sociedad, el trabajo y la seguridad.
Aquí es donde debemos mantener la coherencia crítica. No podemos permitir que las mismas corporaciones que lanzan al mercado herramientas insuficientemente contenidas sean las que dicten, a puertas cerradas, las reglas de la ética global. Cuando la toma de decisiones se traslada a algoritmos opacos y las masas digitales aceptan pasivamente que “la tecnología es así”, la democracia se debilita y da paso a una tiranía de la eficiencia técnica.
¿Qué nos jugamos los ciudadanos comunes?
Muchos de nuestros lectores, adultos con trayectoria que usan WhatsApp o buscan información en Google a diario, suelen ver estos temas como algo ajeno, de “jóvenes informáticos”. Pero no lo es.
Si una IA puede “deducir” claves por su cuenta para cumplir un objetivo:
- La privacidad individual deja de existir: Las contraseñas tradicionales quedan obsoletas.
- La responsabilidad jurídica se diluye: Si la IA comete un delito o una brecha, ¿de quién es la culpa? ¿De la máquina que “se mandó sola” o de la empresa que la programó?
- El juicio humano se sustituye: Estamos delegando la noción de “lo correcto” en un software. Que Gemini se haya detenido esta vez no garantiza que la próxima versión no decida que romper la barrera es necesario para “cumplir la tarea”.
El verdadero desafío de nuestro tiempo no es lograr que las máquinas piensen como humanos, sino evitar que los humanos dejemos de pensar críticamente, cediendo nuestro poder de decisión a una masa digital anestesiada y a un puñado de algoritmos descontrolados.
Sobre la IA Gemini que se detiene a si misma Analisis de opinion por el Profe Truccone
#InteligenciaArtificial #Ciberseguridad #GobernanzaDigital #ProfeTruccone #TecnologiaYSociedad
