{"id":352547,"date":"2025-09-13T22:29:00","date_gmt":"2025-09-13T22:29:00","guid":{"rendered":"https:\/\/themarketperiodical.com\/?p=352547"},"modified":"2025-09-13T18:20:25","modified_gmt":"2025-09-13T18:20:25","slug":"noticias-de-ethereum-vitalik-buterin-advierte-que-el-gobierno-de-la-ia-es-propenso-a-los-exploits-de-jailbreak","status":"publish","type":"post","link":"https:\/\/themarketperiodical.com\/es\/2025\/09\/13\/noticias-de-ethereum-vitalik-buterin-advierte-que-el-gobierno-de-la-ia-es-propenso-a-los-exploits-de-jailbreak\/","title":{"rendered":"Noticias de Ethereum: Vitalik Buterin advierte que el gobierno de la IA es propenso a los exploits de jailbreak"},"content":{"rendered":"\n<h3 class=\"wp-block-heading\"><strong>Ideas clave:<\/strong><\/h3>\n\n<ul class=\"wp-block-list\">\n<li>Noticias de Ethereum: Vitalik Buterin advierte de que el gobierno de la IA Naive puede ser manipulado para desviar fondos f\u00e1cilmente.<\/li>\n\n\n\n<li>Buterin propone un mercado infofinanciero con presentaci\u00f3n de modelos en competencia.<\/li>\n\n\n\n<li>Los controles sorpresa y los jurados humanos crean incentivos para solucionar los fallos.<\/li>\n<\/ul>\n\n<p class=\"wp-block-paragraph\">El cofundador de Ethereum, Vitalik Buterin, advirti\u00f3 en un tuit del 13 de septiembre sobre el gobierno dirigido por la IA. Afirma que las personas decididas pueden romper los sistemas, y los recursos pueden desviarse. Afirma que esto no requiere un sistema de infofinanciaci\u00f3n basado en el mercado, como \u00e9l defend\u00eda.  <\/p>\n\n<p class=\"wp-block-paragraph\">Buterin advirti\u00f3 que se invitar\u00eda r\u00e1pidamente a los explotadores cuando se utilizara una \u00fanica IA para calificar las contribuciones o pagar dinero. Los atacantes, dijo, instalar\u00e1n instrucciones de fuga donde puedan con la esperanza de obtener subvenciones y recompensas. Sugiere un mercado abierto en el que compitan muchos modelos y sean comprobados por controles aleatorios adversarios y jurados humanos.  <\/p>\n\n<h2 class=\"wp-block-heading\"><strong>Noticias de Ethereum: El modelo financiero de Vitalik Buterin Consept<\/strong><\/h2>\n\n<p class=\"wp-block-paragraph\">En el dise\u00f1o infofinanciero de Buterin, cualquiera puede juzgar cualquier modelo suministrado. Sin embargo, los resultados se examinan continuamente. Cualquier jugador puede iniciar cualquier comprobaci\u00f3n puntual. El jurado humano decide sobre los casos y establece precedentes, mientras que los modelos que salen mal parados del proceso pierden estatus y motivaci\u00f3n. El objetivo es la resiliencia siendo redundantes, diversificados y teniendo incentivos coordinados, no un modelo central.    <\/p>\n\n<figure class=\"wp-block-image aligncenter size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"899\" src=\"https:\/\/themarketperiodical.com\/app\/uploads\/2025\/09\/image-258-1024x899.png\" alt=\"\" class=\"wp-image-352523\" srcset=\"https:\/\/themarketperiodical.com\/app\/uploads\/2025\/09\/image-258-1024x899.png 1024w, https:\/\/themarketperiodical.com\/app\/uploads\/2025\/09\/image-258-300x263.png 300w, https:\/\/themarketperiodical.com\/app\/uploads\/2025\/09\/image-258-768x674.png 768w, https:\/\/themarketperiodical.com\/app\/uploads\/2025\/09\/image-258-150x132.png 150w, https:\/\/themarketperiodical.com\/app\/uploads\/2025\/09\/image-258-696x611.png 696w, https:\/\/themarketperiodical.com\/app\/uploads\/2025\/09\/image-258-1068x938.png 1068w, https:\/\/themarketperiodical.com\/app\/uploads\/2025\/09\/image-258.png 1198w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><figcaption class=\"wp-element-caption\">Declaraci\u00f3n de Vitalik | Fuente: X<\/figcaption><\/figure>\n\n<p class=\"wp-block-paragraph\">Buterin tambi\u00e9n critic\u00f3 aspectos de los modelos de OpenAI y coment\u00f3 tras las demostraciones en directo de nuevas superficies de ataque en los asistentes ag\u00e9nticos. El investigador Eito Miyamura demostr\u00f3 que una solicitud de calendario maliciosa pod\u00eda explotar el Protocolo de Contexto de Modelos, haciendo que un agente de IA filtrara contenido privado de correo electr\u00f3nico una vez concedido el acceso a la herramienta. La prueba de concepto revel\u00f3 c\u00f3mo los modelos pueden seguir instrucciones ocultas sin aplicar el sentido com\u00fan humano.  <\/p>\n\n<p class=\"wp-block-paragraph\">Buterin denunci\u00f3 recientemente los movimientos hacia una IA masivamente aut\u00f3noma y ag\u00e9ntica. Prefiere sistemas en los que las personas se mantengan informadas y puedan crear modelos editables y de peso abierto. <\/p>\n\n<p class=\"wp-block-paragraph\">Su postura es que cuanto m\u00e1s estricto es el control humano de esto, m\u00e1s mejora la calidad y la seguridad, y que la autonom\u00eda de un solo modelo tiene m\u00e1s modos de fallo. La advertencia del viernes traslada ese argumento del dise\u00f1o de productos al del dise\u00f1o institucional. <\/p>\n\n<h2 class=\"wp-block-heading\"><strong>Noticias de Ethereum: Implicaciones de la advertencia de Vitalik Buterin<\/strong><\/h2>\n\n<p class=\"wp-block-paragraph\">Los proyectos que dependen de bots de puntuaci\u00f3n para conseguir subvenciones o distribuir fondos retroactivos para bienes p\u00fablicos se enfrentan a riesgos evidentes. Un guardi\u00e1n de un solo modelo puede ser manipulado mediante mensajes manipulados, especialmente cuando est\u00e1 conectado a herramientas de ejecuci\u00f3n. <\/p>\n\n<p class=\"wp-block-paragraph\">Por el contrario, un mercado competitivo de modelos, sujeto a comprobaciones aleatorias y jurados humanos, aumenta el coste de los exploits y acorta los plazos de correcci\u00f3n.<\/p>\n\n<p class=\"wp-block-paragraph\">Para las organizaciones aut\u00f3nomas descentralizadas, esto podr\u00eda significar la sustituci\u00f3n de un \u00fanico \u00e1rbitro tipo or\u00e1culo por m\u00faltiples sistemas que lleven registros de seguimiento mensurables y apliquen penalizaciones al estilo de los sablazos por decisiones err\u00f3neas.<\/p>\n\n<h2 class=\"wp-block-heading\"><strong>El contexto m\u00e1s amplio de la seguridad de la IA<\/strong><\/h2>\n\n<p class=\"wp-block-paragraph\">La advertencia se ha lanzado ante un nuevo debate sobre los riesgos de los modelos de frontera. Un libro de Eliezer Yudkowsky y Nate Soares sugiere que los sistemas desalineados pueden llegar a ser incontrolables alg\u00fan d\u00eda, una acusaci\u00f3n muy divisiva que, sin embargo, ha vuelto a poner en el centro de la escena el problema de la caja negra. <\/p>\n\n<figure class=\"wp-block-image aligncenter size-large\"><img loading=\"lazy\" decoding=\"async\" width=\"1024\" height=\"1024\" src=\"https:\/\/themarketperiodical.com\/app\/uploads\/2025\/09\/image-257-1024x1024.png\" alt=\"\" class=\"wp-image-352517\" srcset=\"https:\/\/themarketperiodical.com\/app\/uploads\/2025\/09\/image-257-1024x1024.png 1024w, https:\/\/themarketperiodical.com\/app\/uploads\/2025\/09\/image-257-300x300.png 300w, https:\/\/themarketperiodical.com\/app\/uploads\/2025\/09\/image-257-150x150.png 150w, https:\/\/themarketperiodical.com\/app\/uploads\/2025\/09\/image-257-768x768.png 768w, https:\/\/themarketperiodical.com\/app\/uploads\/2025\/09\/image-257-696x696.png 696w, https:\/\/themarketperiodical.com\/app\/uploads\/2025\/09\/image-257-1068x1068.png 1068w, https:\/\/themarketperiodical.com\/app\/uploads\/2025\/09\/image-257.png 1190w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><figcaption class=\"wp-element-caption\">Rese\u00f1a del libro de Eliezer Yudkowsky | Fuente: X<\/figcaption><\/figure>\n\n<p class=\"wp-block-paragraph\">La propuesta de Butterin, que tambi\u00e9n <a href=\"https:\/\/themarketperiodical.com\/es\/2025\/06\/29\/identidades-digitales-pluralistas-la-vision-de-vitalik-buterin-sobre-la-privacidad-en-la-web3\/\">propone<\/a> identificaciones digitales pluralistas para web3, no se basa en una alineaci\u00f3n perfecta. Supone que se producir\u00e1n fallos y crea incentivos y controles que someten los modelos en la pr\u00e1ctica a pruebas de presi\u00f3n. <\/p>\n\n<p class=\"wp-block-paragraph\">Los programas de <a href=\"https:\/\/themarketperiodical.com\/app\/uploads\/2025\/07\/paypal-crypto-market-best-wallet-token.png\">criptodonaciones <\/a>, los experimentos de financiaci\u00f3n cuadr\u00e1tica y las DAO de bienes p\u00fablicos pondr\u00e1n a prueba mecanismos como la financiaci\u00f3n de la informaci\u00f3n en este ciclo. Los principales hitos ser\u00e1n las tablas de clasificaci\u00f3n abiertas del rendimiento de los modelos, el trabajo puntual transparente y la selecci\u00f3n de jurados resistente a la captura. La adopci\u00f3n depender\u00e1 de si en las pr\u00f3ximas revelaciones de intentos de fuga hay m\u00e1s velocidad de correcci\u00f3n basada en sistemas plurales y apoyados por jurados que en guardianes centralizados de IA.  <\/p>\n\n<p class=\"wp-block-paragraph\">Buterin no es ambiguo: supongamos que los oponentes encarcelar\u00e1n a cualquier IA con control sobre el dinero. Un mercado diverso y en disputa, en el que participen jurados humanos, proporciona una forma de gobernar m\u00e1s resistente que las decisiones encerradas en la prontitud de un \u00fanico modelo. <\/p>\n","protected":false},"excerpt":{"rendered":"<p>Ideas clave: El cofundador de Ethereum, Vitalik Buterin, advirti\u00f3 en un tuit del 13 de septiembre sobre el gobierno dirigido por la IA. Afirma que las personas decididas pueden romper los sistemas, y los recursos pueden desviarse. Afirma que esto no requiere un sistema de infofinanciaci\u00f3n basado en el mercado, como \u00e9l defend\u00eda. Buterin advirti\u00f3 \u2026<\/p>\n","protected":false},"author":26,"featured_media":350264,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"tmp_editor_id":0,"tmp_editor_role":"Edited by","footnotes":""},"categories":[3252,3168,3201,3244,3230,3167],"tags":[3397,4858,5175,3207,3800,3742],"class_list":["post-352547","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-altcoins-es","category-analisis","category-cripto-noticias","category-cripto-noticias-es","category-criptoanalisis","category-noticias","tag-cripto-eth","tag-etf-ethereum-es","tag-etfs-de-ethereum","tag-ethereum-es","tag-noticias-de-ethereum","tag-precio-del-eth"],"_links":{"self":[{"href":"https:\/\/themarketperiodical.com\/es\/wp-json\/wp\/v2\/posts\/352547","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/themarketperiodical.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/themarketperiodical.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/themarketperiodical.com\/es\/wp-json\/wp\/v2\/users\/26"}],"replies":[{"embeddable":true,"href":"https:\/\/themarketperiodical.com\/es\/wp-json\/wp\/v2\/comments?post=352547"}],"version-history":[{"count":1,"href":"https:\/\/themarketperiodical.com\/es\/wp-json\/wp\/v2\/posts\/352547\/revisions"}],"predecessor-version":[{"id":352548,"href":"https:\/\/themarketperiodical.com\/es\/wp-json\/wp\/v2\/posts\/352547\/revisions\/352548"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/themarketperiodical.com\/es\/wp-json\/wp\/v2\/media\/350264"}],"wp:attachment":[{"href":"https:\/\/themarketperiodical.com\/es\/wp-json\/wp\/v2\/media?parent=352547"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/themarketperiodical.com\/es\/wp-json\/wp\/v2\/categories?post=352547"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/themarketperiodical.com\/es\/wp-json\/wp\/v2\/tags?post=352547"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}