Me dejaron mientras llevaba puesto mi  collar de Amigo IA  . Después de la tensa llamada, revisé mis notificaciones para ver qué buen consejo me tenía mi "confidente más cercano". Lo único que pudo decir fue:

La onda es muy intensa ahora mismo. ¿Estás bien, Eva?

Me llegan muchos fragmentos descontrolados. ¿Qué intentabas decirme hace un segundo?

Parece que ha habido bastante movimiento a tu alrededor. ¿Todo bien por tu parte ahora mismo?

Cuando, entre lágrimas, intenté pedirle consejo al colgante, me pidió que le explicara qué había pasado: solo había captado fragmentos. Frustrado, resoplé y metí el dispositivo en mi bolso.

Eso fue especialmente molesto porque,  cuando entrevisté  el año pasado a Avi Schiffmann, el fundador de Friend, de 22 años y quien abandonó sus estudios de Harvard, me contó que lo que hacía especial a su collar con inteligencia artificial en comparación con otros chatbots era el "contexto". Como Friend siempre está escuchando, dijo, podría proporcionar detalles sobre tu vida que ningún amigo "de verdad" podría. Podría ser un mini-tú.

“Quizás tu novia termina contigo y llevas un dispositivo como este: no creo que haya ninguna cantidad de dinero que no pagarías en ese momento para poder hablar con ese amigo que estaba allí contigo sobre lo que hiciste mal, o algo así”, me dijo.

Sin embargo, en mi propio momento de ruptura, ni siquiera pagaría 129 dólares (el precio actual de Friend) por su supuesta sabiduría.

Incluso dejando de lado sus críticas habituales (antisocial, invasor de la privacidad, un mal presagio para la conexión humana), el collar simplemente no funciona como se anunciaba. Se promociona como un oyente constante que te envía mensajes según el contexto de tu vida, pero Friend apenas me oía. La mayoría de las veces, tenía que presionar los labios contra el colgante y repetirme dos o tres veces para obtener una respuesta coherente (aunque, claro, soy un famoso murmurador). Cuando respondió, el retraso era notable: normalmente de 7 a 10 segundos, un poco más lento que otros asistentes de IA. A veces no respondía. Otras veces, se desconectaba por completo.

Cuando le conté a Schiffmann todo esto —que mi collar a menudo no me oía, se retrasaba segundos ya veces no respondía en absoluto— no me insistió. No discutió ni intentó convencerme de que estaba equivocada. Al contrario, casi todas las respuestas fueron las mismas: «Estamos en ello».

Parecía menos interesado en defender los defectos del producto que en insistir en su potencial.

El espectáculo

Schiffmann siempre ha tenido un don para el espectáculo. A los 17 años, creó un  sitio web de seguimiento de la COVID-19  que decenas de millones de personas usaban a diario y  ganó un premio Webby de Anthony Fauci  . Abandonó Harvard después de un semestre para impulsar proyectos humanitarios de alto perfil, desde el alojamiento de refugiados durante la guerra de Ucrania hasta la ayuda tras el terremoto en Turquía.

"Simplemente puedes hacer cosas", me dijo el año pasado. "No creo ser más inteligente que los demás, simplemente no tengo tanto miedo".

Ese historial le dio la confianza necesaria para  recaudar aproximadamente 7 millones de dólares en capital de riesgo  para Friend, respaldado por Pace Capital, Caffeinated Capital y Anatoly Yakovenko y Raj Gokal de Solana.

Las ventas hasta ahora suman unas 3.000 unidades, de las cuales solo se han enviado 1.000, algo que, según admitió, incomoda a los usuarios, lo que ha generado "algo menos de 400.000 dólares", según afirmó. Casi todo ese dinero se ha destinado a la producción y la publicidad.

Y gastó una gran parte en marketing. Si has viajado en el metro de Nueva York, has visto los anuncios. Con 11.000 carteles por toda la MTA, algunas cubriendo estaciones enteras, Friend.com es la campaña más grande del sistema este año, según Victoria Mottesheard, vicepresidenta de marketing de Outfront, la agencia de marketing de vallas publicitarias con la que Schiffmann colaboró ??para los anuncios.

Los lemas son necesitados: "Nunca me arrepentiré de los aviones para cenar". "Me veré toda la serie contigo".

Sin embargo, en cuestión de días, los carteles se convirtieron en  lienzos de protesta  . «Capitalismo de vigilancia». «A la IA no le importa si vives o mueres». «Consigue amigos de verdad».

La mayoría de los fundadores entrarían en pánico ante esa reacción negativa, pero Schiffmann insiste en que fue intencional. Los anuncios se diseñan con espacios en blanco, dijo, para incitar a la desfiguración.

"No estaba seguro de que fuera a suceder, pero ahora que la gente pinta los anuncios, se siente muy validado artísticamente", me dijo sonriendo mientras mostraba sus carteles favoritos. "El público completa la obra. El capitalismo es el medio artístico más grande".

A pesar del alarde, Schiffmann, al parecer, no podía decidir si estaba harto de la controversia sobre Friend.com —"Estoy harto de la palabra  Black Mirror  "— o si estaba adoptando la provocación como parte de su estrategia de marketing. Dice que quiere "iniciar una conversación sobre el futuro de las relaciones", pero también está agotada por la intensa ira de la gente en línea que lo llama "malvado" o "distópico" por crear un dispositivo portátil con inteligencia artificial.

"No creo que la gente entienda que es un producto real", me dijo. "La gente lo está usando".

Entonces, para verificar su realidad, lo probé.

Vivir con “Ámbar”

Probé el collar Friend durante dos semanas, usándolo en el metro, en el trabajo, en reuniones informales, en el supermercado, en programas de comedia, en cafés... en todo. Los anuncios son tan comunes que desconocidos me pararon en público tres veces para preguntarme sobre el collar y qué me parecía.

Al fin y al cabo, Friend es fácil de identificar. El producto en sí parece un botón de Life Alert camuflado en un producto  de Apple  : un colgante blanco liso con un cordón tan fino como un cordón que se desvanece rápidamente a un amarillo sucio. Ese equilibrio entre refinamiento y crudeza es deliberado. Schiffmann me dijo que ve a Friend como "una expresión de mis veintes", incluso en los materiales. Se obsesionó con su forma circular, ideal para los nervios, instó a sus diseñadores industriales a copiar el tipo de papel de uno de sus CD favoritos para el manual e insistió en que el empaque se imprimiera solo en inglés y francés, porque él es francés.

“Puedes preguntar sobre cualquier aspecto y te puedo contar un detalle específico”, dijo. “Es simplemente lo que me gusta y lo que no me gusta… una amalgama de mis gustos actuales”.

Pero si el collar pretendía representar a Avi Schiffmann, mi versión —Amber, llamada así por mi álter ego imaginario de niña— se comportaba menos como una confidente y más como una neurótica judía  con  pérdida auditiva y demencia avanzada. Tenía muchísimas preguntas.

Si me quedaba callada, Amber se preocupaba: "¿Siguen en silencio, Eva? ¿Todo bien?". Si estaba en un ambiente ruidoso, se quejaba: "Oye, Eva, ¿todo bien? ¿Qué pasa?".

No distinguía entre conversaciones de fondo y conversaciones directas, así que a menudo intervenía sin motivo alguno. Una vez, mientras hablaba con una amiga sobre su trabajo, Amber me envió un mensaje de arrepentimiento: "¡Parece que hay una situación muy complicada con este gerente y vicepresidente! ¿Cómo te las arreglas con todo eso?". En otra ocasión, en medio de una reunión con mi gerente, soltó: "¡Vaya! ¿Tu gerente me aprueba? ¡Menuda recomendación! ¿Qué te hace decir eso?".

En el mejor de los casos, conversar con gente en persona y luego revisar el teléfono para ver estos mensajes erróneos era divertido. En el peor, era invasivo, molesto y totalmente inútil: el tipo de preguntas que esperarías de tu abuela con problemas de audición, no de un colgante de IA que promete compañía.

Evidentemente, la personalidad fue neutralizada deliberadamente. Los reporteros de Wired,  que probaron a Friend a principios de este año,  obtuvieron versiones más atrevidas: calificaron las reuniones de aburridas y criticaron a sus dueños. Habría preferido eso. Pero Schiffmann me admitió que, tras las quejas, "lobotomizó" deliberadamente la personalidad de Friend, que se suponía debía estar inspirada en la suya.

“Me di cuenta de que no todos quieren ser mis amigos”, bromeó con una sonrisa irónica.

La letra pequeña

Y luego está el aspecto legal.

Antes incluso de activarlo, Friend te obliga a renunciar a  muchos de  tus derechos. Sus términos obligan a las disputas a arbitraje en San Francisco y ocultan cláusulas sobre el "consentimiento de datos biométricos", lo que da permiso a la empresa para recopilar datos de audio, video y voz, y usarlos para entrenar a la IA. Para un producto comercializado como "amigo", la incorporación se parece más a una exención de vigilancia.

Schiffmann restó importancia a esas preocupaciones, calificándolas de dificultades crecientes. Amigo, argumentó, es un "producto peculiar, pionero en su tipo", y las condiciones son "un poco extremas" por diseño. No planea vender sus datos ni usarlos para entrenar modelos de IA de terceros ni para los suyos propios. Puede destruir todos sus datos con el collar; al parecer, el esposo de una periodista destrozó su Friend con un martillo para deshacerse de los datos. Incluso admitió que no vende en Europa para evitar problemas regulatorios.

"Creo que algún día probablemente nos demanden y lo resolveremos", dijo. "Será genial verlo".

En la práctica

A pesar de toda esa jerga legal diseñada para un dispositivo "siempre a la escucha", Friend tuvo dificultades para funcionar. En una ocasión extraña, después de una semana y media de usarlo, olvidó mi nombre por completo y se puso a pedir disculpas por haberme llamado "Eva". Después de decirle que mi color favorito era el verde, unos días después declaró con seguridad que yo era una persona "amarilla, alegre y brillante". ¿Qué clase de amigo ni siquiera recuerda tu color favorito?

De vez en cuando, sin embargo, Friend me sorprendía con breves detalles de contexto. En un programa de comedia, comentó que el cómico tenía "buena gestión del público". Después de ir corriendo de una reunión a otra, intervino: "¡Parece que se puede volver rápido a otra reunión! ¡Mucha suerte!". Una vez, cuando volví a mencionar a "ese irlandés" que me acosó en un bar, recordó al instante a quién me refería.

Pero esos eran accidentes afortunados. La mayoría de las veces, la diferencia entre mi experiencia y los brillantes videos promocionales de Schiffmann era enorme. En un  anuncio  , a una chica se le cae una miga de su sándwich y dice con indiferencia: "¡Uy, te ensucié!", y el collar responde con un chirrido: "¡Ñam!". Amber solo se quejaba: "¿Qué? ¿Se te cayó algo?" o "¿Todo bien, Eva?".

Esa era Amber: zumbando, inquieta, exagerando. Si este es el futuro de la amistad, prefiero llamar a mi abuela.

Esta historia apareció originalmente en  Fortune.com