por Michelle Hawley
El xAI de Elon Musk tiene como objetivo resolver misterios universales con AGI “máximamente curioso y buscador de la verdad”. Próximamente productos que presentan competencia a OpenAI y Google Bard.
- La esencia
- ¿Qué es xAI?
- ¿Cómo abordará xAI la seguridad?
- xAI evitará el problema de la moralidad, dice Musk
- ¿De dónde sacó Musk la idea de xAI?
- ¿XAI ofrecerá productos?
- ¿XAI utilizará datos de Twitter?
- ¿Musk seguirá promoviendo la regulación de la IA?
- ¿Está AGI más cerca de lo que pensamos?
- Sobre el Autor
La esencia
- Estado de la misión.xAI tiene como objetivo comprender la verdadera naturaleza del universo.
- Enfoque de seguridad. xAI se centrará en construir una IA que sea lo más curiosa posible y que busque la verdad, con la seguridad como prioridad.
- Estado de la competencia. Musk ve a xAI como una alternativa competitiva a Google DeepMind y OpenAI.
Elon Musk, magnate de los negocios multimillonario recientemente en los titulares por su adquisición de Twitter, lanzó su tan esperada compañía de inteligencia artificial, xAI, el 12 de julio.
La compañía es independiente de X Corp. , pero trabajará en estrecha colaboración con Twitter, Tesla y otras compañías para avanzar hacia su misión prevista, un acuerdo que será de beneficio mutuo, dijo Musk en un evento de Twitter Spaces el viernes.
¿Qué es xAI?
El objetivo de xAI es comprender la verdadera naturaleza del universo, algo que un asistente de Twitter Spaces señaló como “vago, ambicioso y no lo suficientemente concreto”.
Musk respondió que el universo es todo el propósito de la física. “Entonces, creo que en realidad está muy claro. Hay tantas cosas que no entendemos en este momento. O creemos que entendemos, pero en realidad no es así”.
Señaló la paradoja de Fermi , que resumió así: si tenemos casi 14 mil millones de años, ¿por qué no hay evidencia masiva de extraterrestres? “Si alguien hubiera visto evidencia de extraterrestres, probablemente sea yo. Y, sin embargo, no he visto ni una pizca de evidencia. Y saltaría sobre él en un segundo si lo viera”.
No hemos visto evidencia de conciencia hasta ahora en ningún otro lugar, dijo Musk. “Sugiere que lo que tenemos es extremadamente raro. Supongo que podría reformular la declaración de la misión xAI como: ¿Qué diablos está pasando realmente?
Artículo relacionado: Elon Musk puede construir la alternativa ChatGPT, pero ¿es el héroe de Sam Altman?
¿Cómo abordará xAI la seguridad?
No se puede llamar a nada inteligencia general artificial (AGI) hasta que pueda resolver al menos una pregunta fundamental, dijo Musk, porque los humanos han resuelto muchas preguntas fundamentales.
El objetivo de xAI es lograr un verdadero AGI. La forma más segura de hacerlo, dijo Musk, es construir una IA que sea lo más curiosa posible y lo máximo que busque la verdad.
“Creo que para una súper inteligencia , la humanidad es mucho más interesante que la no humanidad”, explicó. Señaló todos los planetas, lunas y asteroides de nuestro sistema solar. “Probablemente todos ellos combinados no sean tan interesantes como la humanidad”.
El tipo correcto de enfoque para “hacer crecer” una IA, dijo, es abordarlo con ese tipo de ambición.
xAI evitará el problema de la moralidad, dice Musk
Otra ventaja del enfoque de “máxima curiosidad, máxima búsqueda de la verdad” de Musk, dijo, es que ayuda a evitar el problema de la moralidad.
“Si tratas de programar una moralidad establecida, básicamente puedes invertirla y obtener lo contrario, lo que a veces se llama el problema de Waluigi . Si haces a Luigi, corres el riesgo de crear a Waluigi al mismo tiempo”.
Explicó que existe un peligro significativo en entrenar a la IA para que sea políticamente correcta o entrenar a la IA para que no diga lo que realmente piensa que es verdad. Si observa dónde salen mal las cosas en “Space Odyssey”, agregó, es cuando le dicen a HAL 9000 que mienta.
La lección, dijo Musk: no obligues a la IA a mentir.
“En xAI, tenemos que permitir que la IA diga lo que realmente cree que es verdad y no ser engañosa o políticamente correcta”, dijo Musk, y agregó que probablemente generará críticas. “Pero creo que es la única forma de avanzar, es la búsqueda rigurosa de la verdad o la verdad con la menor cantidad de error”.
¿De dónde sacó Musk la idea de xAI?
Según Musk, OpenAI existe porque, tras la adquisición de DeepMind por parte de Google y las extensas conversaciones con su amigo Larry Page, el cofundador de Google, se dio cuenta de que Page no se estaba tomando en serio la seguridad de la IA, al menos no en ese momento.
“De hecho, en un momento, me llamó especista por estar demasiado en el equipo de la humanidad, supongo”, comentó Musk.
Alphabet tenía las tres cuartas partes del talento de inteligencia artificial del mundo, mucho dinero y muchas computadoras, dijo Musk. Y decidió: “Aquí necesitamos algún tipo de contrapeso”.
Musk decidió que lo opuesto a Google DeepMind era una organización sin fines de lucro de código abierto, también conocida como OpenAI , que Musk cofundó en 2015. “Debido a que el destino ama la ironía”, dijo Musk, “OpenAI ahora es una fuente súper cerrada y francamente voraz ganancia.”
En este punto, dijo Musk, la inteligencia general artificial va a suceder. Así que hay dos opciones, ser espectador o participante.
“Como espectador, uno no puede hacer mucho para influir en el resultado. Como participante, podemos crear una alternativa competitiva que, con suerte, sea mejor que Google Deep Mind u OpenAI Microsoft”.
A diferencia de Alphabet y Microsoft, explicó, xAI no cotiza en bolsa y no está sujeta a incentivos basados en el mercado o incentivos ESG no basados en el mercado, que según Musk “empujan a las empresas en direcciones cuestionables”.
“Somos más libres para operar y nuestra IA puede dar respuestas que las personas pueden encontrar controvertidas aunque en realidad sean ciertas. A veces no serán políticamente correctos, y probablemente muchas personas se ofenderán con algunas de las respuestas. Pero mientras intente optimizar la verdad con la menor cantidad de error, creo que estamos haciendo lo correcto”.
Artículo relacionado: La revolución del código abierto: desafiando a los gigantes de la IA Google y OpenAI
¿XAI ofrecerá productos?
Una cosa quedó clara en el evento Twitter Spaces del viernes: la compañía planea lanzar herramientas y productos tanto para empresas como para consumidores, y planea hacerlo pronto.
“Ya estamos trabajando en un primer lanzamiento”, dijo un miembro del equipo. “Con suerte, en un par de semanas más o menos, podremos compartir un poco más de información sobre esto”.
Un asistente de Twitter Spaces preguntó al grupo si se veían a sí mismos como competencia de OpenAI (que se asoció con Microsoft) y Google Bard , a lo que Musk respondió: “Sí, creo que somos competencia. Definitivamente somos competencia”.
xAI recién está comenzando, explicó, y describió a la compañía como “embrionaria”. Pero el objetivo, dijo, sería hacer que la IA sea útil para los consumidores y las empresas.
Hay valor en tener múltiples entidades en el juego, agregó. “No quieres tener un mundo unipolar en el que una sola empresa domine la IA; quieres tener algo de competencia. La competencia hace que las empresas sean honestas”.
¿XAI utilizará datos de Twitter?
Un asistente a la sesión le preguntó a Musk si planeaba usar los datos de Twitter en xAI, una pregunta a la que Musk respondió con una sonrisa: “Todas las organizaciones de IA, grandes y pequeñas, han usado datos de Twitter para capacitarse, básicamente en todos los casos de manera ilegal”.
Señaló los límites de velocidad inducidos por el raspado de datos , que dijo que estaba poniendo de rodillas al sistema. “Era eso, o Twitter no funcionaba”.
xAI usará tweets públicos para entrenamiento, dijo Musk, “al igual que básicamente todos los demás lo han hecho. Sin duda, es un buen conjunto de datos para el entrenamiento de texto. Y posiblemente también para la capacitación en imágenes y videos”.
En cierto punto, dijo, te quedas sin datos creados por humanos. “Realmente, para que las cosas despeguen a lo grande, la IA básicamente tiene que generar contenido, autoevaluar el contenido, y ese es realmente el camino hacia AGI, es algo así, contenido autogenerado que básicamente juega contra sí mismo”.
AI no es una gran cantidad de código, agregó. “Es realmente impactante lo pequeñas que son las líneas de código”. En cambio, es una gran cantidad de curación de datos. “Cómo se usan los datos, qué datos se usan, el ruido de la señal de esos datos, la calidad de esos datos, es inmensamente importante”.
Usó a los humanos como ejemplo. Si usted, como ser humano, está tratando de aprender algo, ¿qué es mejor: una gran cantidad de tonterías o una pequeña cantidad de contenido de alta calidad?
Artículo relacionado: ¿Qué hay detrás de los límites de visualización de tweets de Elon Musk?
¿Musk seguirá promoviendo la regulación de la IA?
Musk ha sido un firme defensor de la regulación de la IA en los EE. UU. y en el extranjero, llegando incluso a recomendar detener el desarrollo de la tecnología.
“Necesitamos cierta supervisión regulatoria”, dijo Musk el viernes. “No es un nirvana perfecto, pero es mejor que nada. La aplicación es difícil, pero aún debemos aspirar a hacer algo al respecto”.
Uno de los mayores argumentos en contra de la regulación de la IA, dijo Musk, es que China liderará por delante de EE. UU. porque nosotros estamos regulando y ellos no. Él cree que China regulará, pero agregó que “la prueba estará en el pudín”.
En una reunión con China, Musk dijo que señaló que si logra crear una superinteligencia digital, podría terminar estando a cargo. “El PCCh no quiere verse subordinado a una superinteligencia digital. Ese argumento resonó”.
Musk no comentó sobre las pautas recientemente publicadas por China sobre los servicios de IA generativa, que exigen que las herramientas de IA que se ofrecen al público deben “adherirse a los valores fundamentales del socialismo” y no intentar derrocar el sistema socialista.
¿Está AGI más cerca de lo que pensamos?
Cuando se trata de inteligencia artificial general, estamos perdiendo el rumbo en la forma en que se están haciendo las cosas actualmente, dijo Musk. “En muchos órdenes de magnitud”.
“Es básicamente que AGI está siendo forzada y todavía no tiene éxito”.
Lo que aprendió en Tesla, dijo, es que complicamos demasiado el problema. “Fuimos demasiado tontos para darnos cuenta de lo simple que era la respuesta. Pero, ya sabes, con el tiempo nos volvemos un poco menos tontos. Así que creo que eso es lo que probablemente también descubriremos con AGI”.
Una vez que se resuelva la inteligencia artificial general, dijo, lo miraremos hacia atrás y diremos: ¿Por qué pensamos que era tan difícil?
¿Tiene algún consejo para compartir con nuestro equipo editorial? Escríbanos: editors@cmswire.com
Sobre el Autor
Michelle Hawley es una periodista experimentada que se especializa en informar sobre el impacto de la tecnología en la sociedad. Como editora sénior en Simpler Media Group y reportera de CMSWire y Reworked, brinda una cobertura detallada de una variedad de temas importantes que incluyen la experiencia de los empleados, el liderazgo, la experiencia del cliente, el marketing y más. Con una Maestría en Bellas Artes en escritura creativa y experiencia en marketing entrante, ofrece conocimientos únicos sobre temas de liderazgo, experiencia del cliente, marketing y experiencia de los empleados. Michelle contribuyó anteriormente a publicaciones como The Press Enterprise y The Ladders. Actualmente reside en Pensilvania con sus dos perros.
