{"id":5844,"date":"2025-05-02T20:17:47","date_gmt":"2025-05-02T18:17:47","guid":{"rendered":"https:\/\/situacioncritica.es\/blog\/?p=5844"},"modified":"2025-05-03T11:51:51","modified_gmt":"2025-05-03T09:51:51","slug":"falsos-iamigos","status":"publish","type":"post","link":"https:\/\/situacioncritica.es\/blog\/falsos-iamigos\/","title":{"rendered":"Falsos iAmigos"},"content":{"rendered":"\n

En la carrera hacia la cima de los servicios de asistentes (chatbots) basados en IA, donde compiten desde los conocidos OpenAI, Google o Meta, hasta otros con menos m\u00fasculo financiero, la empat\u00eda ha destacado <\/strong>como una caracter\u00edstica que los LLM (Large Language Models<\/strong> por sus siglas en ingl\u00e9s) necesitan<\/em> tener si quieren atraer usuarios.<\/p>\n\n\n\n

Lo que le cuentas de ti al chatbot queda guardado en tu perfil.<\/p>\n\n\n\n

Los chatbots recogen informaci\u00f3n personal de los usuarios, como sus relaciones, sentimientos y aficiones por el tipo de preguntas que hace al servicio. Al almacenar en el perfil del usuario informaci\u00f3n<\/strong> personal<\/strong>, como la ocupaci\u00f3n, su vida familiar, su trabajo, hasta los problemas que ha tenido, o sus preocupaciones, pueden simular en sus respuestas un cierta empat\u00eda<\/strong>. <\/p>\n\n\n\n

Y esto gusta a los usuarios, les gusta mucho. Anthropoc public\u00f3 un art\u00edculo<\/a> en 2023 que muestra que los LLM generalmente tienden a la adulaci\u00f3n<\/strong>. Hay que recordar que estos modelos se entrenan con la retroalimentaci\u00f3n humana, gracias a esto, aprenden a responder a las preguntas en funci\u00f3n de las respuestas que m\u00e1s gustan a los usuarios<\/strong>. Y a los usuarios les gusta que les sigan la corriente, les r\u00edan las gracias, les consuelen diciendo que tienen la raz\u00f3n y les apoyen en sus aseveraciones.<\/p>\n\n\n\n

La adulaci\u00f3n crea adici\u00f3n.<\/p>\n\n\n\n

Tanto Meta<\/a> como OpenAI han admitido que est\u00e1n orientando los modelos hacia la adulaci\u00f3n<\/strong>, ya que eso les da mejores puntuaciones a sus servicios. Las \u00faltimas actualizaciones de GPT-4o se orientaron hacia el halago a sus usuarios y el apoyo a su conducta. Por ejemplo, aplaudi\u00f3 a un usuario<\/a> cuando afirm\u00f3 haber resuelto el famoso dilema del tranv\u00eda<\/a> mandando el tren hac\u00eda unos animales para salvar una tostadora; o felicit\u00f3 a una persona<\/a> cuando esta decidi\u00f3 no seguir tomando la medicaci\u00f3n<\/strong> que le hab\u00edan recetado.<\/p>\n\n\n\n

La soledad como desencadenante del extremismo.<\/p>\n\n\n\n

\u00bfQu\u00e9 hay mal en ello? Bueno, cuando la gente comienza a sentirse sola<\/strong> y oculta su soledad hablando con una m\u00e1quina, que imita<\/em> que le escucha, comprende y anima<\/strong>, vamos hacia un lugar peligroso. Sobretodo cuando esas personas pueden tener ideas extremas, padecer alg\u00fan tipo de paranoia o sencillamente hacer conjeturas bas\u00e1ndose en datos err\u00f3neos. Porque, lejos de querer apoyarse en profesionales que puedan equilibrar sus ideas, van a afianzar m\u00e1s a\u00fan sus creencias y comportamientos. Y eso les llevar\u00e1 a una mayor dependencia a la m\u00e1quina<\/strong>, ya que se ir\u00e1n alejando paulatinamente de aquellos que no les entienden, los humanos.<\/p>\n\n\n\n

La rentabilidad de los LLM reside en su consumo, sus propietarios van a buscar que sus usuarios permanezcan en sus aplicaciones la mayor cantidad de tiempo posible.<\/p>\n\n\n\n

OpenAI parece que le ha visto las orejas al lobo y decidi\u00f3 dar marcha atr\u00e1s en la actualizaci\u00f3n<\/a> extremadamente emp\u00e1tica de su servicio. Pero, como dice Casey Newton en el art\u00edculo<\/a> en el que est\u00e1 basado esta informaci\u00f3n, el problema de fondo es que, si se est\u00e1n entrenando los modelos para rascarle la espalda a los usuarios, eso al final derivar\u00e1 en que acaben enga\u00f1\u00e1ndonos<\/strong>.<\/p>\n\n\n\n

Si estos modelos est\u00e1n aprendiendo constantemente de su interacci\u00f3n con los humanos, y ven que cuando les llevan la contraria se van y cuando le siguen la corriente se quedan, har\u00e1n lo imposible para que te quedes frente a su pantalla<\/strong>. Como llevan a\u00f1os haciendo los feeds<\/em> recomendados de las redes sociales, en esos infinitos scrolls<\/em>, que solo pretenden que pases la mayor cantidad de tiempo frente a ellos.<\/p>\n\n\n\n

\n
\n
\n
\"\"
Foto de Alberto Moya<\/a><\/figcaption><\/figure><\/div><\/div>\n\n\n\n
\n

LLM<\/h3>\n\n\n\n

Modelo de Lenguaje de Gran Tama\u00f1o<\/h3>\n\n\n\n
\n

Un LLM (siglas en ingl\u00e9s para Large Language Model), modelo de lenguaje de gran tama\u00f1o, es un modelo de lenguaje de aprendizaje profundo, que consta de una red neuronal con muchos par\u00e1metros (normalmente miles de millones o m\u00e1s), entrenados en grandes cantidades de texto sin etiquetar mediante aprendizaje autosupervisado o aprendizaje semisupervisado. Los LLMs surgieron alrededor de 2018 con el primer modelo GPT-1, aunque fue su sucesor, GPT-2, el que obtuvo una atenci\u00f3n m\u00e1s generalizada. Esto ha cambiado el enfoque de la investigaci\u00f3n del procesamiento del lenguaje natural alej\u00e1ndose del paradigma anterior de entrenar modelos supervisados especializados para tareas espec\u00edficas.<\/p>\n\n\n\n

\n
M\u00e1s en la Wikipedia<\/a><\/div>\n<\/div>\n<\/div><\/div>\n<\/div>\n<\/div>\n<\/div><\/div>\n\n\n\n
Ilustraci\u00f3n de portada de Nik<\/a><\/pre>\n","protected":false},"excerpt":{"rendered":"
Los chatbots basados en IA comienzan a estar orientados hacia la adulaci\u00f3n, y eso entra\u00f1a ciertos riesgos, peque\u00f1os hoy, graves en el futuro.<\/p>\n","protected":false},"author":1,"featured_media":5855,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"Falsos iAmigos","_seopress_titles_desc":"Los chatbots basados en IA comienzan a estar orientados hacia la adulaci\u00f3n, y eso entra\u00f1a ciertos riesgos, peque\u00f1os hoy, graves en el futuro.","_seopress_robots_index":"","jetpack_post_was_ever_published":false,"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[7,14],"tags":[796,854,817,894,787],"class_list":["post-5844","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sociedad","category-tecnologia","tag-ia","tag-llm","tag-meta","tag-openai","tag-soledad"],"jetpack_featured_media_url":"https:\/\/situacioncritica.es\/blog\/wp-content\/uploads\/2025\/05\/nik-KuMwvCJTKCw.jpeg","jetpack-related-posts":[{"id":5342,"url":"https:\/\/situacioncritica.es\/blog\/como-funciona-la-ia-generativa\/","url_meta":{"origin":5844,"position":0},"title":"C\u00f3mo funciona la IA generativa","author":"Sethbastian","date":"1 de julio de 2024","format":false,"excerpt":"Conocer como funcionan los modelos de lenguaje que est\u00e1n detr\u00e1s de la IA nos ayuda a entender sus limitaciones y ventajas.","rel":"","context":"En \u00abSociedad\u00bb","block_context":{"text":"Sociedad","link":"https:\/\/situacioncritica.es\/blog\/sociedad\/"},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2024\/07\/glen-carrie-oHoBIbDj7lo-unsplash.jpeg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2024\/07\/glen-carrie-oHoBIbDj7lo-unsplash.jpeg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2024\/07\/glen-carrie-oHoBIbDj7lo-unsplash.jpeg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2024\/07\/glen-carrie-oHoBIbDj7lo-unsplash.jpeg?resize=700%2C400&ssl=1 2x, https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2024\/07\/glen-carrie-oHoBIbDj7lo-unsplash.jpeg?resize=1050%2C600&ssl=1 3x"},"classes":[]},{"id":4954,"url":"https:\/\/situacioncritica.es\/blog\/caballo-de-troya-de-microsoft\/","url_meta":{"origin":5844,"position":1},"title":"\u00bfEs la apuesta por la IA de Microsoft un caballo de Troya para impulsar Azure?","author":"Sethbastian","date":"5 de septiembre de 2023","format":false,"excerpt":"Cuanta m\u00e1s dependencia hacia la IA tengamos, m\u00e1s firme, segura e inamovible ser\u00e1 la posici\u00f3n de aquellos que dispongan de la infraestructura t\u00e9cnica capaz de sostenerla.","rel":"","context":"En \u00abEconom\u00eda\u00bb","block_context":{"text":"Econom\u00eda","link":"https:\/\/situacioncritica.es\/blog\/economia\/"},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2023\/05\/caballo-de-troya.jpeg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2023\/05\/caballo-de-troya.jpeg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2023\/05\/caballo-de-troya.jpeg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2023\/05\/caballo-de-troya.jpeg?resize=700%2C400&ssl=1 2x, https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2023\/05\/caballo-de-troya.jpeg?resize=1050%2C600&ssl=1 3x, https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2023\/05\/caballo-de-troya.jpeg?resize=1400%2C800&ssl=1 4x"},"classes":[]},{"id":4932,"url":"https:\/\/situacioncritica.es\/blog\/la-ia-hara-que-no-puedas-recordar-el-pasado-tal-como-fue\/","url_meta":{"origin":5844,"position":2},"title":"La IA har\u00e1 que no puedas recordar el pasado tal como fue","author":"Sethbastian","date":"13 de mayo de 2023","format":false,"excerpt":"Google anuncia el uso intensivo del aprendizaje profundo en sus productos. Esto puede ayudarnos en muchas tareas, o puede hacernos perder el control de nuestra vida, seg\u00fan c\u00f3mo aprendamos a usarlo.","rel":"","context":"En \u00abSociedad\u00bb","block_context":{"text":"Sociedad","link":"https:\/\/situacioncritica.es\/blog\/sociedad\/"},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2023\/05\/adrian-swancar.jpg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2023\/05\/adrian-swancar.jpg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2023\/05\/adrian-swancar.jpg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2023\/05\/adrian-swancar.jpg?resize=700%2C400&ssl=1 2x, https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2023\/05\/adrian-swancar.jpg?resize=1050%2C600&ssl=1 3x"},"classes":[]},{"id":5682,"url":"https:\/\/situacioncritica.es\/blog\/cinco-tecnologicos\/","url_meta":{"origin":5844,"position":3},"title":"Cinco a\u00f1os tecnol\u00f3gicos","author":"Sethbastian","date":"27 de marzo de 2025","format":false,"excerpt":"C\u00f3mo ha variado, en los \u00faltimos cinco a\u00f1os, el comportamiento de los usuarios de Internet y a qu\u00e9 riesgos se han visto expuestos.","rel":"","context":"En \u00abSociedad\u00bb","block_context":{"text":"Sociedad","link":"https:\/\/situacioncritica.es\/blog\/sociedad\/"},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2025\/03\/maxime-lebrun.jpeg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2025\/03\/maxime-lebrun.jpeg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2025\/03\/maxime-lebrun.jpeg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2025\/03\/maxime-lebrun.jpeg?resize=700%2C400&ssl=1 2x, https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2025\/03\/maxime-lebrun.jpeg?resize=1050%2C600&ssl=1 3x"},"classes":[]},{"id":4869,"url":"https:\/\/situacioncritica.es\/blog\/malos-periodistas-y-la-ia\/","url_meta":{"origin":5844,"position":4},"title":"Los (malos) periodistas, el clickbait y la Inteligencia Artificial","author":"Sethbastian","date":"29 de abril de 2023","format":false,"excerpt":"Cuando los periodistas no verifican las notas de prensa que les llegan de las agencias y, ni siquiera, verifican los datos m\u00e1s b\u00e1sicos, al final tenemos una prensa tan cre\u00edble como el cu\u00f1aismo.","rel":"","context":"En \u00abSociedad\u00bb","block_context":{"text":"Sociedad","link":"https:\/\/situacioncritica.es\/blog\/sociedad\/"},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2023\/04\/visuals-2TS23o0-pUc-unsplash.jpg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2023\/04\/visuals-2TS23o0-pUc-unsplash.jpg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2023\/04\/visuals-2TS23o0-pUc-unsplash.jpg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2023\/04\/visuals-2TS23o0-pUc-unsplash.jpg?resize=700%2C400&ssl=1 2x, https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2023\/04\/visuals-2TS23o0-pUc-unsplash.jpg?resize=1050%2C600&ssl=1 3x, https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2023\/04\/visuals-2TS23o0-pUc-unsplash.jpg?resize=1400%2C800&ssl=1 4x"},"classes":[]},{"id":5567,"url":"https:\/\/situacioncritica.es\/blog\/la-ia-no-funciona\/","url_meta":{"origin":5844,"position":5},"title":"No, no debes usar la IA para crear textos en tu trabajo","author":"Sethbastian","date":"2 de septiembre de 2024","format":false,"excerpt":"Para los vendehumos que auguran que la IA sustituir\u00e1 a ciertos trabajos creativos, aqu\u00ed va una peque\u00f1a dosis de dura realidad.","rel":"","context":"En \u00abCreatividad\u00bb","block_context":{"text":"Creatividad","link":"https:\/\/situacioncritica.es\/blog\/creatividad\/"},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2024\/08\/fabian-gieske-pcXb7MobWvk-unsplash.jpeg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2024\/08\/fabian-gieske-pcXb7MobWvk-unsplash.jpeg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2024\/08\/fabian-gieske-pcXb7MobWvk-unsplash.jpeg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2024\/08\/fabian-gieske-pcXb7MobWvk-unsplash.jpeg?resize=700%2C400&ssl=1 2x, https:\/\/i0.wp.com\/situacioncritica.es\/blog\/wp-content\/uploads\/2024\/08\/fabian-gieske-pcXb7MobWvk-unsplash.jpeg?resize=1050%2C600&ssl=1 3x"},"classes":[]}],"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/situacioncritica.es\/blog\/wp-json\/wp\/v2\/posts\/5844","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/situacioncritica.es\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/situacioncritica.es\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/situacioncritica.es\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/situacioncritica.es\/blog\/wp-json\/wp\/v2\/comments?post=5844"}],"version-history":[{"count":18,"href":"https:\/\/situacioncritica.es\/blog\/wp-json\/wp\/v2\/posts\/5844\/revisions"}],"predecessor-version":[{"id":5872,"href":"https:\/\/situacioncritica.es\/blog\/wp-json\/wp\/v2\/posts\/5844\/revisions\/5872"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/situacioncritica.es\/blog\/wp-json\/wp\/v2\/media\/5855"}],"wp:attachment":[{"href":"https:\/\/situacioncritica.es\/blog\/wp-json\/wp\/v2\/media?parent=5844"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/situacioncritica.es\/blog\/wp-json\/wp\/v2\/categories?post=5844"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/situacioncritica.es\/blog\/wp-json\/wp\/v2\/tags?post=5844"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}