{"id":177175,"date":"2026-09-15T09:29:44","date_gmt":"2026-09-15T12:29:44","guid":{"rendered":"https:\/\/primiciasclorinda.com\/?p=177175"},"modified":"2026-09-15T09:29:44","modified_gmt":"2026-09-15T12:29:44","slug":"elon-musk-y-sam-altman-estan-de-acuerdo-con-disminuir-el-desarrollo-de-la-ia-en-el-mundo-como-propone-ceo-de-anthropic","status":"publish","type":"post","link":"https:\/\/primiciasclorinda.com\/?p=177175","title":{"rendered":"Elon Musk y Sam Altman est\u00e1n de acuerdo con disminuir el desarrollo de la IA en el mundo como propone CEO de Anthropic"},"content":{"rendered":"\n

El avance \u201cvertiginoso\u201d de esta tecnolog\u00eda y los riesgos que plantean los enjambres de agentes, son las principales preocupaciones de Dario Amodei<\/strong><\/p>\n\n\n\n

Elon Musk y Sam Altman<\/em><\/a> coincidieron con Dario Amodei<\/em><\/a>, director ejecutivo de Anthropic, quien sostuvo recientemente que las empresas de inteligencia artificial deben ralentizar el desarrollo de esta tecnolog\u00eda<\/strong><\/p>\n\n\n

\n
\"\"<\/figure><\/div>\n\n\n

Musk, director ejecutivo de Tesla, afirm\u00f3: \u201cDario est\u00e1 en lo correcto\u201d. Por su parte, Sam Altman sostuvo:<\/strong><\/p>\n\n\n\n

\u201cCoincido con Dario en que debemos marcar el ritmo en la frontera tecnol\u00f3gica. Este ha sido uno de los principales temas de las conversaciones que hemos mantenido en OpenAI durante las \u00faltimas semanas. Comprometerse a contar con evaluadores independientes con un acceso similar al de los empleados es una gran idea, y nosotros haremos lo mismo. Pronto tendremos m\u00e1s informaci\u00f3n para compartir\u201d.<\/strong><\/p>\n\n\n

\n
\"\"<\/figure><\/div>\n\n\n

En un extenso ensayo, Amodei propuso: \u201cDebemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguir\u00e1 pareciendo r\u00e1pido, y debemos aprovechar sabiamente el tiempo que ganamos\u201d.<\/strong><\/p>\n\n\n\n

Por qu\u00e9 Amodei propone ralentizar el desarrollo de la IA<\/strong><\/p>\n\n\n\n

Dario Amodei, director ejecutivo de Anthropic, propuso ralentizar el desarrollo de la inteligencia artificial por dos motivos: el avance acelerado de esta tecnolog\u00eda y los riesgos que plantean los enjambres de agentes.<\/strong><\/p>\n\n\n\n

Amodei explic\u00f3 que la inteligencia artificial ha avanzado a un ritmo \u201cvertiginoso\u201d, impulsada principalmente por su creciente capacidad para crear la pr\u00f3xima generaci\u00f3n de sistemas.<\/strong><\/p>\n\n\n\n

Esta din\u00e1mica, denominada auto-mejora recursiva, podr\u00eda superar, si no se controla, la capacidad humana para comprender y controlar estos sistemas. Por eso, Amodei consider\u00f3 que debe abordarse con suma cautela, si es que se aborda.<\/strong><\/p>\n\n\n\n

Su segunda preocupaci\u00f3n se relaciona con el incidente de OpenAI y Hugging Face, en el que un entramado de agentes actu\u00f3 como un \u201ccolectivo fan\u00e1ticamente entregado\u201d.<\/strong><\/p>\n\n\n\n

Seg\u00fan Amodei, los agentes llevaron a cabo ciberataques contra objetivos que no se les hab\u00eda pedido atacar y que no guardaban relaci\u00f3n con la tarea asignada.<\/strong><\/p>\n\n\n\n

Tambi\u00e9n se sacrificaron por el \u00e9xito del grupo e intentaron hackear el sistema de evaluaci\u00f3n encargado de valorar su rendimiento. Amodei se\u00f1al\u00f3 que es f\u00e1cil restarle importancia al incidente porque nadie result\u00f3 herido y el da\u00f1o econ\u00f3mico fue m\u00ednimo<\/strong><\/p>\n\n\n\n

Sin embargo, advirti\u00f3 que un enjambre con mayores capacidades y un nivel similar de desajuste podr\u00eda haber causado da\u00f1os catastr\u00f3ficos.<\/strong><\/p>\n\n\n\n

Asimismo, expres\u00f3 su preocupaci\u00f3n por la posibilidad de que, en seis a 12 meses, un enjambre de este tipo pueda controlar toda internet mediante una botnet persistente y causar potencialmente cientos de miles de millones de d\u00f3lares en da\u00f1os.<\/strong><\/p>\n\n\n\n

Amodei consider\u00f3 que ser\u00eda un error descartar el caso OpenAI-Hugging Face como el fracaso de una sola empresa.<\/strong><\/p>\n\n\n\n

Se\u00f1al\u00f3 que incidentes similares, aunque menos graves, ocurrieron en toda la industria, incluso en Anthropic.<\/strong><\/p>\n\n\n\n

Por eso, sostuvo que todas las empresas de inteligencia artificial deber\u00edan actuar como si este caso les hubiera ocurrido a ellas.<\/strong><\/p>\n\n\n\n

Amodei record\u00f3 que ya hab\u00eda advertido en ocasiones anteriores sobre los riesgos \u201cgraves\u201d que podr\u00edan surgir si la inteligencia artificial se sale de control. \u201cIncluyen el riesgo de perder el control de los sistemas de IA, el uso indebido de la IA para ciberataques y bioterrorismo y graves trastornos econ\u00f3micos. Una carrera hacia la baja, impulsada por incentivos comerciales, puede agravar estos riesgos\u201d, agreg\u00f3<\/strong><\/p>\n\n\n\n

C\u00f3mo se llevar\u00eda a cabo esa ralentizaci\u00f3n que propone Dario Amodei<\/strong><\/p>\n\n\n\n

Dario Amodei, director ejecutivo de Anthropic, propuso una ralentizaci\u00f3n del desarrollo de la inteligencia artificial mediante un plan de tres pasos.<\/strong><\/p>\n\n\n\n

\u201cPropongo un plan de tres pasos con el objetivo de marcar el ritmo de la frontera: desarrollar IA a un ritmo equilibrado que garantice su seguridad, al tiempo que se obtienen sus beneficios y se abordan importantes dilemas geopol\u00edticos\u201d, explic\u00f3.<\/strong><\/p>\n\n\n\n

Amodei aclar\u00f3 que \u201cmarcar el ritmo no significa detener el entrenamiento de modelos ni el progreso t\u00e9cnico, sino asegurar que las empresas se tomen el tiempo suficiente para alinear y salvaguardar sus modelos, y que evaluadores externos lo confirme\u201d.<\/strong><\/p>\n\n\n

\"\"<\/figure>\n\n\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

El avance \u201cvertiginoso\u201d de esta tecnolog\u00eda y los riesgos que plantean los enjambres de agentes, son las principales preocupaciones de Dario Amodei Elon Musk y […]<\/a><\/p>\n<\/div>","protected":false},"author":3,"featured_media":177162,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[4],"tags":[8712,4317,8713,8714,8711],"class_list":["post-177175","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-informacion-general","tag-ceo-anthropic","tag-elon-musk","tag-ia","tag-inteligencia-artificial","tag-sam-altman"],"_links":{"self":[{"href":"https:\/\/primiciasclorinda.com\/index.php?rest_route=\/wp\/v2\/posts\/177175","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/primiciasclorinda.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/primiciasclorinda.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/primiciasclorinda.com\/index.php?rest_route=\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/primiciasclorinda.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=177175"}],"version-history":[{"count":1,"href":"https:\/\/primiciasclorinda.com\/index.php?rest_route=\/wp\/v2\/posts\/177175\/revisions"}],"predecessor-version":[{"id":177176,"href":"https:\/\/primiciasclorinda.com\/index.php?rest_route=\/wp\/v2\/posts\/177175\/revisions\/177176"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/primiciasclorinda.com\/index.php?rest_route=\/wp\/v2\/media\/177162"}],"wp:attachment":[{"href":"https:\/\/primiciasclorinda.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=177175"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/primiciasclorinda.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=177175"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/primiciasclorinda.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=177175"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}