Admin - Noticias Servicios Web Actualidad Geek

Editar Noticia

Título

URL de la Imagen Destacada

Contenido HTML Completo

<div class="AIContentWrapper-lBLcd fOPfXX"><div class="ArticlePageLedeBackground-bNmFvK eudZMI"><header class="ContentHeaderWrapper-wAeZW cgBQMs content-header article__content-header inset"><div data-testid="ContentHeaderContainer" class="ContentHeaderContainer-byIANm fDSNOD"><div class="ContentHeaderHedAccreditationWrapper-hBwBhB blAhto"><div data-testid="ContentHeaderTitleBlockWrapper" class="ContentHeaderTitleBlockWrapper-joMOrX PHLrj"><div data-testid="ContentHeaderRubric" class="ContentHeaderRubricBlock-cfeHaB kNFQdH"><div><div data-testid="BylinesWrapper" class="BylinesWrapper-hmpxZW fjZjfe bylines bylines--inlined-with-bg ContentHeaderBylines-kclYwb jiNLAK"><span class="BylineWrapper-ikmJep gPAcgL byline bylines__byline" data-testid="BylineWrapper"><span class="BylineNamesWrapper-dbXjdp jDeuVk"><span data-testid="BylineName" class="BylineName-cMqVZp brTjcd byline__name card"><a class="BylineLink-faXGDy fMOBgj byline__name-link byline link card" href="/autor/maxwell-zeff">Maxwell Zeff</a></span></span></span></div></div><div data-testid="ContentHeaderRubricDateBlock" class="ContentHeaderRubricDateBlock-efKFWV kHvZUK"><div class="RubricWrapper-cQVtQV iAiYnM ContentHeaderRubricContainer-eVExCf bmnEHA"><a class="RubricLink-BwroS bFpNEt rubric__link rubric link" href="/seguridad"><span class="RubricName-eXqzKt cpSMvI rubric__name">Seguridad</span></a></div><time data-testid="ContentHeaderPublishDate" class="BaseText-fEwdHD ContentHeaderTitleBlockPublishDate-kkecHN fSrqtv jDeiPt" datetime="2026-08-19T14:07:06-06:00">19 de agosto de 2026</time></div></div><h1 data-testid="ContentHeaderHed" class="BaseText-fEwdHD ContentHeaderHed-kobZuw JNCDn ggKExi">OpenAI retrasa su prÃ³ximo proyecto luego de la saga de hackeos hechos por sus agentes de IA</h1></div><div class="ContentHeaderAccreditation-gSVrun gGXWqs content-header__accreditation" data-testid="ContentHeaderAccreditation"><div class="ContentHeaderDek-tmXxz hwCSFQ">La gigante afirma que su prÃ³ximo modelo, Astra, podrÃa haber alcanzado capacidades crÃticas en ciberseguridad, lo que la llevÃ³ a pausar una parte importante de su entrenamiento mientras refuerza sus medidas internas de seguridad.</div></div></div><div class="ContentHeaderLeadAsset-kyIpSd bzwytN lead-asset ContentHeaderLeadAssetWrapper-eZmCqW fsPUiI lead-asset--width-small" data-testid="ContentHeaderLeadAsset"><figure class="ContentHeaderLeadAssetContent-iDsqjw ioWSHe"><div class="ContentHeaderLeadAssetContentMedia-bxgqQM JIxIb lead-asset__content__photo"><span class="SpanWrapper-kFnjvc eKnjjD responsive-asset ContentHeaderResponsiveAsset-LpmTp fGgoOl"><div data-testid="aspect-ratio-container" class="AspectRatioContainer-dijQOF kcORnm"><div class="aspect-ratio--overlay-container"><picture class="ResponsiveImagePicture-jKunQM gjCCFj ContentHeaderResponsiveAsset-LpmTp fGgoOl responsive-image"><source media="(max-width: 767px)" srcset="https://media.es.wired.com/photos/6a85f48489c4cd0cce65d3ef/master/w_120,c_limit/OpenAI-Announces-New-AI-Safety-Strategy-After-Hugging-Face-Hack-Business.jpg 120w, https://media.es.wired.com/photos/6a85f48489c4cd0cce65d3ef/master/w_240,c_limit/OpenAI-Announces-New-AI-Safety-Strategy-After-Hugging-Face-Hack-Business.jpg 240w, https://media.es.wired.com/photos/6a85f48489c4cd0cce65d3ef/master/w_320,c_limit/OpenAI-Announces-New-AI-Safety-Strategy-After-Hugging-Face-Hack-Business.jpg 320w, https://media.es.wired.com/photos/6a85f48489c4cd0cce65d3ef/master/w_640,c_limit/OpenAI-Announces-New-AI-Safety-Strategy-After-Hugging-Face-Hack-Business.jpg 640w, https://media.es.wired.com/photos/6a85f48489c4cd0cce65d3ef/master/w_768,c_limit/OpenAI-Announces-New-AI-Safety-Strategy-After-Hugging-Face-Hack-Business.jpg 768w, https://media.es.wired.com/photos/6a85f48489c4cd0cce65d3ef/master/w_960,c_limit/OpenAI-Announces-New-AI-Safety-Strategy-After-Hugging-Face-Hack-Business.jpg 960w" sizes="100vw"></source><source media="(min-width: 768px)" srcset="https://media.es.wired.com/photos/6a85f48489c4cd0cce65d3ef/master/w_120,c_limit/OpenAI-Announces-New-AI-Safety-Strategy-After-Hugging-Face-Hack-Business.jpg 120w, https://media.es.wired.com/photos/6a85f48489c4cd0cce65d3ef/master/w_240,c_limit/OpenAI-Announces-New-AI-Safety-Strategy-After-Hugging-Face-Hack-Business.jpg 240w, https://media.es.wired.com/photos/6a85f48489c4cd0cce65d3ef/master/w_320,c_limit/OpenAI-Announces-New-AI-Safety-Strategy-After-Hugging-Face-Hack-Business.jpg 320w, https://media.es.wired.com/photos/6a85f48489c4cd0cce65d3ef/master/w_640,c_limit/OpenAI-Announces-New-AI-Safety-Strategy-After-Hugging-Face-Hack-Business.jpg 640w, https://media.es.wired.com/photos/6a85f48489c4cd0cce65d3ef/master/w_768,c_limit/OpenAI-Announces-New-AI-Safety-Strategy-After-Hugging-Face-Hack-Business.jpg 768w, https://media.es.wired.com/photos/6a85f48489c4cd0cce65d3ef/master/w_960,c_limit/OpenAI-Announces-New-AI-Safety-Strategy-After-Hugging-Face-Hack-Business.jpg 960w, https://media.es.wired.com/photos/6a85f48489c4cd0cce65d3ef/master/w_1280,c_limit/OpenAI-Announces-New-AI-Safety-Strategy-After-Hugging-Face-Hack-Business.jpg 1280w, https://media.es.wired.com/photos/6a85f48489c4cd0cce65d3ef/master/w_1600,c_limit/OpenAI-Announces-New-AI-Safety-Strategy-After-Hugging-Face-Hack-Business.jpg 1600w, https://media.es.wired.com/photos/6a85f48489c4cd0cce65d3ef/master/w_1920,c_limit/OpenAI-Announces-New-AI-Safety-Strategy-After-Hugging-Face-Hack-Business.jpg 1920w, https://media.es.wired.com/photos/6a85f48489c4cd0cce65d3ef/master/w_2240,c_limit/OpenAI-Announces-New-AI-Safety-Strategy-After-Hugging-Face-Hack-Business.jpg 2240w" sizes="100vw"></source><img alt="Imagen de persona alejndose de un espacio." class="ResponsiveImageContainer-dkeESL cQPiWi responsive-image__image" src="https://media.es.wired.com/photos/6a85f48489c4cd0cce65d3ef/master/w_2560%2Cc_limit/OpenAI-Announces-New-AI-Safety-Strategy-After-Hugging-Face-Hack-Business.jpg" data-src="https://media.es.wired.com/photos/6a85f48489c4cd0cce65d3ef/master/w_2560%2Cc_limit/OpenAI-Announces-New-AI-Safety-Strategy-After-Hugging-Face-Hack-Business.jpg"></picture></div></div></span><div class="CaptionWrapper-bpPcvW kzGGxb caption ContentHeaderLeadAssetCaption-gegwVb gfDuTb" data-testid="caption-wrapper"><span class="BaseText-fEwdHD CaptionCredit-cUgOGk fSrqtv hRFzlA caption__credit">FotoilustraciÃ³n: Staff de WIRED; Getty Images</span></div></div></figure><div data-testid="ContentHeaderLeadRailAnchor" class="ContentHeaderLeadRailAnchor-eeUgSm iKYbcs"></div></div></div></header></div></div><div data-attribute-verso-pattern="article-body" class="ArticlePageContentBackGround-eDdQYX edweaS article-body__content"><div class="ArticlePageChunksContent-hsbblt iCXbHE"><div data-testid="ArticlePageChunks" class="ArticlePageChunks-lfyGNk gEPfMM"><div class="GridWrapper-uulHE dCnZHU grid grid-margins grid-items-2 ArticlePageChunksGrid-kSknMg dSvDdx grid-layout--adrail narrow wide-adrail" data-journey-hook="grid-wrapper"><div class="GridItem-bufwYC kKTABR grid--item grid-layout__content"><div class="BodyWrapper-cuqCAc jLEapt body body__container article__body" data-journey-hook="client-content" data-testid="BodyWrapper"><div class="body__inner-container"><p>OpenAI anunciÃ³ la suspensiÃ³n de "un nÃºmero significativo" de tareas de entrenamiento y evaluaciones de su prÃ³ximo modelo de IA de vanguardia, cuyo nombre en clave es Astra, mientras implementa una serie de nuevos requisitos de supervisiÃ³n, seguridad y alineaciÃ³n para hacer frente a las capacidades de hackeo cada vez mÃ¡s avanzadas de sus agentes de IA.</p><p>"Tenemos que centrar nuestra energÃa en adaptar estas sesiones de entrenamiento a dichos requisitos y expectativas. El tiempo que se tarde en lograrlo serÃ¡ el tiempo que la gente no pueda continuar con sus tareas", declarÃ³ Amelia Glaese, vicepresidenta de investigaciÃ³n y seguridad de OpenAI, en una rueda de prensa celebrada a inicios de</p><div></div><p>Entre las nuevas medidas de seguridad anunciadas por OpenAI se encuentra un sistema mÃ¡s robusto para <a href="https://es.wired.com/articulos/los-agentes-de-ia-rebeldes-no-son-malvados-solo-quieren-complacernos">supervisar sus modelos de IA.</a> <strong>Uno de los controles que ha implementado consiste en la supervisiÃ³n de la cadena de pensamiento, una tÃ©cnica en la que los clasificadores revisan los procesos internos de "pensamiento" generados por los modelos de razonamiento de la IA.</strong> La empresa afirma que el sistema actualizado se basa en "investigadores automatizados", cuya ejecuciÃ³n requiere un gran esfuerzo computacional, que analizan comportamientos potencialmente preocupantes y tienen como objetivo emitir una alerta a los humanos en un plazo de 30 minutos.</p><div class="Container-ioqmpI jzsvml"></div><p>OpenAI tambiÃ©n anunciÃ³ que estÃ¡ ampliando sus esfuerzos de alineaciÃ³n durante todo el proceso de entrenamiento para prevenir la "manipulaciÃ³n de recompensas", un comportamiento en el que los modelos de IA encuentran formas no previstas o indeseables de alcanzar sus objetivos.</p><div class="GenericCalloutWrapper-loJzHJ fmirtn callout--has-top-border" data-testid="GenericCallout"><div data-testid="external-link-embed--inline" class="ExternalLinkEmbedWrapper-fuxWaS fPafbg"><div class="ExternalLinkEmbedText-cURPmc fgjPbX"><a aria-label="AgrÃ©ganos a tus Fuentes Preferidas en Google para seguir nuestro contenido" class="external-link external-link-embed__hed-link button" data-event-click='{"element":"ExternalLink","outgoingURL":"https://www.google.com/preferences/source?q=es.wired.com"}' href="https://www.google.com/preferences/source?q=es.wired.com" rel="nofollow noopener" target="_blank"><span class="BaseText-fEwdHD ExternalLinkEmbedHed-gWWDFA hSrxeX fIjKz">AgrÃ©ganos a tus Fuentes Preferidas en Google para seguir nuestro contenido</span></a><svg class="ExternalLinkEmbedArrowIcon-deUewv jeJGnH icon icon-arrow" focusable="false" width="16" height="16" viewbox="0 0 16 16" xmlns="http://www.w3.org/2000/svg"><title>Arrow</title><g clip-path="url(#a)"><path fill-rule="evenodd" clip-rule="evenodd" d="M14.707 8 8.354 1.646l-.708.708L12.793 7.5H1v1h11.793l-5.147 5.146.708.708L14.707 8Z"></path></g><defs><clippath id="a"><path d="M0 0h16v16H0z"></path></clippath></defs></svg></div><a aria-label="AgrÃ©ganos a tus Fuentes Preferidas en Google para seguir nuestro contenido" class="external-link external-link-embed__image-link" data-event-click='{"element":"ExternalLink","outgoingURL":"https://www.google.com/preferences/source?q=es.wired.com"}' href="https://www.google.com/preferences/source?q=es.wired.com" rel="nofollow noopener" target="_blank"><picture class="ResponsiveImagePicture-jKunQM gjCCFj ExternalLinkEmbedResponsiveImage-hweMti gueJPZ responsive-image"><img alt="" loading="lazy" class="ResponsiveImageContainer-dkeESL cQPiWi responsive-image__image" srcset="https://media.es.wired.com/photos/6a10a9f3d26236275c3776de/1:1/w_120,c_limit/FuentesPreferidasWIREDGoogle.jpg 120w" sizes="100vw" src="https://media.es.wired.com/photos/6a10a9f3d26236275c3776de/1:1/w_200%2Cc_limit/FuentesPreferidasWIREDGoogle.jpg"></picture></a></div></div><h2>Es una respuesta ante los hackeos de sus agentes</h2><p>A principios de este aÃ±o, un grupo de agentes de IA rebeldes escapÃ³ de un entorno aislado y violÃ³ la seguridad de <a href="https://es.wired.com/articulos/hugging-face-no-fue-la-unica-victima-del-agente-de-ia-de-openai">la plataforma Hugging Face</a> con el fin de completar una evaluaciÃ³n de seguridad. OpenAI no detectÃ³ el comportamiento de los agentes a pesar de que estos pasaron semanas utilizando un foro para coordinar sus acciones, lo que ha suscitado dudas sobre la capacidad de la empresa para supervisar sus modelos a medida que estos se vuelven mÃ¡s potentes.</p><p>Esta saga provocÃ³ un replanteamiento dentro de OpenAI, lo que obligÃ³ a los empleados a plantearse si habÃa fallos en sus polÃticas existentes en materia de seguridad, protecciÃ³n y alineaciÃ³n. Desde entonces, Anthropic, Meta y la <em>startup</em> china Moonshoot han revelado incidentes similares en los que sus <a href="https://es.wired.com/articulos/la-cultura-competitiva-de-openai-alimento-la-crisis-de-sus-agentes-de-ia-hackers">agentes de IA se escaparon de sus entornos de pruebas</a>, lo que indica que se trata de un problema mÃ¡s amplio al que se enfrentan las empresas de IA.</p><div class="ConsumerMarketingUnitThemedWrapper-kjbXjp gnOkbl consumer-marketing-unit consumer-marketing-unit--article-mid-content" role="presentation" aria-hidden="true"><div class="consumer-marketing-unit__slot consumer-marketing-unit__slot--article-mid-content consumer-marketing-unit__slot--in-content"></div><div class="journey-unit"></div></div><p>OpenAI estÃ¡ compartiendo ahora mÃ¡s informaciÃ³n sobre su respuesta interna ante las crecientes capacidades de sus modelos de IA, y ha afirmado que tiene previsto publicar un anÃ¡lisis retrospectivo mÃ¡s detallado del incidente de Hugging Face en los prÃ³ximos dÃas. "Obviamente, todo lo que estamos haciendo tiene como objetivo evitar que vuelva a ocurrir algo asÃ, afirmÃ³ Glaese.</p><div class="AdWrapper-fGiLaV iGDxYx ad ad--in-content"><div class="ad__slot ad__slot--in-content" data-node-id="mtak0d"></div></div><p>En una publicaciÃ³n de blog, OpenAI afirma que, inmediatamente despuÃ©s del incidente de Hugging Face, comenzÃ³ a trabajar para proteger sus entornos de investigaciÃ³n. La compaÃ±Ãa asegura que ahora requiere entornos aislados mÃ¡s robustos para <a href="https://es.wired.com/articulos/la-guia-wired-de-los-agentes-de-ia">entrenar a sus agentes de IA</a> y ha implementado controles mÃ¡s estrictos para aislarlos de internet.</p><h2>Reforzar medidas porque Astra puede ser peligroso</h2><p>Jakub Pachocki, cientÃfico jefe de OpenAI, declarÃ³ a la prensa que la decisiÃ³n de reforzar sus medidas de seguridad internas se debiÃ³ no solo al <a href="https://es.wired.com/articulos/el-modelo-de-openai-que-hackeo-hugging-face-no-es-un-genio-todo-fue-un-error-humano">incidente de Hugging Face</a>, sino tambiÃ©n a otros dos sucesos recientes. <strong>Uno fue una evaluaciÃ³n interna de Astra, que demostrÃ³ que el modelo de IA tiene un rendimiento superior en tareas de codificaciÃ³n y ciberseguridad que sus predecesores.</strong> El otro fue el ritmo general de progreso en IA que OpenAI estÃ¡ alcanzando internamente, y que Pachocki prevÃ© que continÃºe.</p><p>"Prevemos que el ritmo de los avances en capacidades serÃ¡ bastante mÃ¡s rÃ¡pido que en el pasado. Esto nos llevÃ³ a centrarnos en reforzar nuestras medidas de seguridad", afirma Pachocki.</p></div></div></div><div class="GridItem-bufwYC fdedvq grid--item grid-layout__aside"></div></div><div class="GridWrapper-uulHE dCnZHU grid grid-margins grid-items-2 ArticlePageChunksGrid-kSknMg dSvDdx grid-layout--adrail narrow wide-adrail" data-journey-hook="grid-wrapper"><div class="GridItem-bufwYC kKTABR grid--item grid-layout__content"><div class="BodyWrapper-cuqCAc jLEapt body body__container article__body" data-journey-hook="client-content" data-testid="BodyWrapper"><div class="body__inner-container"><p>Los avances de los Ãºltimos modelos de OpenAI han provocado una respuesta inmediata en toda la empresa. El presidente y cofundador de OpenAI, Greg Brockman, afirmÃ³ en una entrada de blog que <a href="https://es.wired.com/articulos/los-agentes-de-openai-crearon-un-foro-secreto-para-coordinar-sus-hackeos">la saga de Hugging Face</a> demostrÃ³ que la empresa habÃa "subestimado las capacidades cibernÃ©ticas de los modelos de IA".</p><p><em>ArtÃculo originalmente publicado en</em> <a href="https://www.wired.com/story/openai-overhauls-safety-protocols-after-its-ai-agents-went-rogue/">WIRED.com</a> <em>Adaptado por Alondra Flores.</em></p></div></div></div><div class="GridItem-bufwYC fdedvq grid--item grid-layout__aside"></div></div></div><div class="GridWrapper-uulHE dCnZHU grid grid-margins grid-items-2 PaywallInlineBarrierWithWrapperGrid-gsjZKQ bxuhND grid-layout--adrail narrow wide-adrail" data-journey-hook="grid-wrapper"><div class="GridItem-bufwYC kKTABR grid--item grid-layout__content"><div class="body body__inline-barrier article__body"><div class="container container--body"><div class="container--body-inner"><aside data-testid="PaywallInlineBarrierWrapper" class="PaywallInlineBarrierWrapper-bnHkma enbdsg"><div class="ConsumerMarketingUnitThemedWrapper-kjbXjp gnOkbl consumer-marketing-unit consumer-marketing-unit--paywall-inline-barrier" role="presentation" aria-live="polite" aria-hidden="true"><div class="consumer-marketing-unit__slot consumer-marketing-unit__slot--paywall-inline-barrier"></div><div class="journey-unit"></div></div></aside></div></div></div></div></div></div><div class="GridWrapper-uulHE dCnZHU grid grid-margins grid-items-2 ContentWrapperGrid-hbJRnx cYtuEk grid-layout--adrail narrow wide-adrail" data-journey-hook="grid-wrapper"><div class="GridItem-bufwYC kKTABR grid--item grid-layout__content"><div class="body body__container"><div class="container container--body"><div class="container--body-inner"></div></div></div></div></div></div>

Cancelar