*

*
18 de noviembre de 2026
Oakland Park, Florida
*
El director de una empresa de inteligencia artificial escribió en cierta ocasión que los seres humanos serían la primera especie capaz de diseñar a sus propios descendientes. La palabra que merece atención en esa frase es «descendientes». Un inventor puede describir una máquina enumerando lo que hace. Llamarla descendiente supone afirmar algo más acerca de la relación entre el inventor y su invención. Aun cuando la máquina llegara algún día a superar a su inventor en cada tarea en que ambos admitieran comparación, seguiría siendo razonable preguntar qué habría heredado exactamente y en qué sentido cabría llamar al inventor su ascendiente. [1]
Un senador que se opone al rumbo de estas empresas toma en serio ese lenguaje. No le faltan motivos. Quien dirige una empresa de inteligencia artificial puede comprometer personas y recursos en una idea que otro sólo puede contemplar. El propietario de varias empresas semejantes va más lejos. «Propagar la superinteligencia hasta las estrellas es una magnífica condición de éxito para un cargador de arranque biológico», escribe. Un cargador de arranque cumple su función hasta que el sistema que pone en marcha puede asumir el control. Conforme a su analogía, la humanidad podría, por tanto, desempeñar con éxito el papel que él le asigna sin que quedara resuelta la cuestión de su propio porvenir. Sin embargo, cuando el senador pasa de estas declaraciones a la tesis de que las máquinas ya empiezan a reemplazarnos, ocurre algo singular. Impugna la conveniencia del porvenir que estos hombres imaginan, al tiempo que les concede una autoridad considerable para dictaminar qué porvenir trae consigo su obra. [2, 3]
Supóngase que dos testigos han rendido declaración sobre la misma tarde. Cada relato, leído por separado, resulta verosímil. Cuando se le pide que los compare, un modelo de lenguaje advierte que, si ambos testigos han indicado la hora correcta, una misma persona habría tenido que encontrarse en dos lugares a la vez. Ninguno de los testigos formuló esa observación. El modelo ha deducido una consecuencia de la relación entre ambos relatos, y el lector puede verificar la inferencia volviendo a las dos declaraciones. Queda por indagar cuál de los testigos indicó la hora correcta, si es que alguno lo hizo. Un modelo más perfeccionado podría detectar discrepancias que escaparon a cien lectores. Tal perfeccionamiento acreditaría cuánto más puede un instrumento de comparación ofrecer a la atención humana.
Una evaluación internacional de la inteligencia artificial de propósito general, elaborada por investigadores de numerosos países, describe modelos capaces de resolver cuestiones difíciles de matemáticas que, no obstante, apenas logran sobreponerse a errores elementales en tareas prolongadas. [4] Me parece del todo posible que razonar a partir de lo registrado, hallar relaciones entre observaciones y sugerir qué convendría examinar después siga siendo el logro principal de los modelos de lenguaje. Una relación que ningún investigador ha advertido puede alterar el curso de una investigación. Que un sistema capaz de tales hallazgos pueda también llegar a experimentar el mundo, formarse propósitos propios o encontrar el modo de perseguirlos contra la oposición humana plantea varias cuestiones ulteriores. Un perfeccionamiento de la inferencia nos da motivo para indagar esas posibilidades. No ofrece medida alguna de la distancia que separa una inferencia de una intención.
Las fortunas comprometidas en la búsqueda de la superinteligencia importan de un modo bien preciso. El dinero puede mantener viva una investigación a lo largo de años de fracaso. Puede costear equipos, atraer investigadores y permitir un segundo enfoque una vez agotado el primero. Donde el obstáculo es la escasez de recursos, una fortuna puede alterar el resultado. Donde el obstáculo consiste en que los investigadores aún no han determinado qué contaría como éxito, el gasto no puede zanjar la cuestión que su experimento pretende resolver. Antes de que un inversor pueda proclamar avances hacia la creación de un sucesor, alguien ha de ser capaz de explicar qué observación distinguiría a un sucesor incipiente de un instrumento más capaz. La disposición del inversor a pagar por uno u otro acredita la seriedad de su propósito. Ofrece al público escaso fundamento para decidir cuál de los dos está construyendo.
Mientras esa cuestión permanece abierta, el mismo gasto puede producir consecuencias para las cuales la palabra «reemplazo» tiene un sentido más inmediato. Supóngase que un empleador somete los expedientes de dos aspirantes a un sistema de selección basado en un modelo de lenguaje. Uno de ellos ha ocupado el mismo puesto durante diez años. La otra persona dejó un puesto equivalente para atender a uno de sus padres y más tarde se reincorporó al trabajo. El empleador acepta la clasificación del sistema y convoca a entrevista únicamente al primero. La segunda aspirante escribe para explicar la interrupción. El empleado que recibe su carta puede confirmar que las fechas se consignaron correctamente. Carece de autoridad para reconsiderar el sentido que se atribuyó a esas fechas.
Para esa aspirante, el hecho decisivo ocurrió antes de que presentara su solicitud. El empleador ya había decidido de quién sería el juicio capaz de incidir en el resultado y había otorgado al empleado que respondería a su carta únicamente la atribución de corregir un registro. Su expediente era exacto. Lo que necesitaba era alguien facultado para considerar si una interrupción en el empleo guardaba relación con su aptitud para desempeñar el trabajo. De haber admitido el empleador semejante revisión, el mismo modelo, con idénticas capacidades, habría podido producir la misma clasificación y la aspirante aún habría podido ser oída. Su perjuicio derivó de una decisión acerca de las condiciones en que el empleador estaría dispuesto a oírla.
El proyecto de ley con el que el senador procura proscribir la superinteligencia artificial confiere consecuencia a la distinción. Prohibiría un sistema capaz de planificar y ejecutar la destrucción de la humanidad o su desapoderamiento. Vedaría también un sistema por el motivo distinto de que su desempeño cognitivo excede las capacidades humanas en la mayoría de los ámbitos o tareas. La prohibición se extiende a los sistemas fácilmente modificables para exhibir cualquiera de ambas capacidades y a los que ya presentan alguna de las características precursoras que el proyecto especifica. [5] Un órgano legislativo puede concluir que un desempeño superior a la capacidad humana en la mayoría de los ámbitos entraña un riesgo inadmisible aun mientras el sistema permanezca sujeto al control humano. Esa conclusión exige explicar cómo podría la capacidad burlar los controles y por qué el peligro justifica la prohibición. El caso de la aspirante plantea la dificultad inversa. Un sistema de capacidad del todo ordinaria puede ejercer una influencia decisiva sobre una vida porque quienes lo emplean han hecho definitiva su recomendación.
Hay un acuerdo oculto en el lenguaje de que se dispone para describir lo que le ocurrió a la aspirante. El empleador puede decir que el sistema la rechazó. Un crítico puede decir que una máquina ha reemplazado a un juez humano. La primera descripción puede eximir al empleador de la carga de explicar el rechazo. La segunda puede hacer que la disposición del empleador parezca derivada de un avance de la máquina. Ambas descripciones dejan a la aspirante escribiendo a la dirección equivocada. No tiene reparo alguno que oponer a las fechas de su expediente. Tiene una pregunta para la persona que decidió que nadie estaría autorizado a oír lo que esas fechas callaban.
Fuentes
- Sam Altman, The Merge
https://blog.samaltman.com/the-merge - Elon Musk, declaración sobre la superinteligencia digital
https://x.com/elonmusk/status/2106906678293606496 - Bernie Sanders, Don’t Let Big Tech Dictate Humanity’s Future
https://www.sanders.senate.gov/op-eds/dont-let-big-tech-dictate-humanitys-future/ - Informe Internacional sobre la Seguridad de la IA 2026, resumen ejecutivo
https://internationalaisafetyreport.org/publication/2026-report-executive-summary - Ban Artificial Superintelligence Act of 2026, S. 5493, secciones 3 y 9
https://www.govinfo.gov/content/pkg/BILLS-119s5493is/html/BILLS-119s5493is.htm
*
Tags: delegación de autoridad, inteligencia artificial, juicio humano, rendición de cuentas, selección automatizada de personal, sucesión
Leave a Reply