ข่าว Ethereum: Vitalik Buterin เตือนว่าการกำกับดูแล AI มีแนวโน้มที่จะถูกโจมตีด้วยการเจลเบรก

ข้อมูลเชิงลึกที่สำคัญ:

• ข่าว Ethereum: Vitalik Buterin เตือนว่าการกำกับดูแล AI ที่ไร้เดียงสาอาจถูกเจลเบรกเพื่อยักย้ายเงินได้อย่างง่ายดาย
• Buterin เสนอตลาดการเงินข้อมูลด้วยการส่งโมเดลที่แข่งขันกัน
• การตรวจสอบแบบสุ่มและคณะลูกขุนสร้างแรงจูงใจในการแก้ไขความล้มเหลว

Vitalik Buterin ผู้ร่วมก่อตั้ง Ethereum ได้ออกมาเตือนเกี่ยวกับการกำกับดูแลที่ขับเคลื่อนด้วย AI ในทวีตเมื่อวันที่ 13 กันยายน โดยเขาอ้างว่าผู้คนที่มุ่งมั่นสามารถทำลายระบบได้ และทรัพยากรอาจถูกนำไปใช้ประโยชน์ในทางที่ผิด เขากล่าวว่าสิ่งนี้ไม่จำเป็นต้องใช้ระบบการเงินสารสนเทศที่อิงตลาด ดังที่เขาเคยสนับสนุน

บูเทอรินเตือนว่าช่องโหว่จะถูกเปิดช่องให้โจมตีทันทีเมื่อมีการใช้ AI เพียงตัวเดียวเพื่อประเมินเงินบริจาคหรือจ่ายเงินออกไป เขากล่าวว่า ผู้โจมตีจะติดตั้งคำสั่งเจลเบรกไว้ในที่ที่สามารถทำได้ โดยหวังว่าจะได้รับเงินสนับสนุนและเงินรางวัล เขาเสนอให้เปิดตลาดแบบเปิดที่โมเดลต่างๆ มากมายแข่งขันกันและได้รับการตรวจสอบโดยการตรวจสอบแบบสุ่มและคณะลูกขุน

ข่าว Ethereum: แนวคิดโมเดลการเงินของ Vitalik Buterin

ในการออกแบบข้อมูลทางการเงินของ Buterin ใครๆ ก็สามารถตัดสินโมเดลใดๆ ก็ได้ แต่ผลลัพธ์จะถูกตรวจสอบอย่างต่อเนื่อง ผู้เล่นทุกคนสามารถเริ่มต้นการตรวจสอบแบบสุ่มได้ คณะลูกขุนมนุษย์เป็นผู้ตัดสินคดีและสร้างบรรทัดฐาน ในขณะที่โมเดลที่ทำได้ไม่ดีในกระบวนการจะสูญเสียสถานะและแรงจูงใจ เป้าหมายคือความยืดหยุ่นโดยมีความซ้ำซ้อน หลากหลาย และมีแรงจูงใจที่ประสานกัน ไม่ใช่โมเดลกลาง

บูเทอรินยังวิพากษ์วิจารณ์แง่มุมต่าง ๆ ของโมเดล OpenAI และแสดงความคิดเห็นหลังจากการสาธิตสดเกี่ยวกับการโจมตีรูปแบบใหม่ในผู้ช่วยเอเจนต์ นักวิจัย เออิโตะ มิยามูระ แสดงให้เห็นว่าคำขอปฏิทินที่เป็นอันตรายสามารถใช้ประโยชน์จากโปรโตคอลบริบทโมเดล กระตุ้นให้เอเจนต์ AI รั่วไหลเนื้อหาอีเมลส่วนตัวเมื่อได้รับสิทธิ์เข้าถึงเครื่องมือ หลักฐานแนวคิดนี้เผยให้เห็นว่าโมเดลสามารถปฏิบัติตามคำสั่งที่ซ่อนอยู่ได้อย่างไรโดยไม่ต้องใช้สามัญสำนึกของมนุษย์

เมื่อเร็วๆ นี้ บูเทอรินได้ประณามแนวคิดที่จะมุ่งสู่ AI แบบอัตโนมัติและแบบตัวแทนขนาดใหญ่ เขาชอบระบบที่ผู้คนสามารถติดตามความคืบหน้าได้ และสามารถสร้างแบบจำลองที่แก้ไขได้และแบบเปิดได้

จุดยืนของเขาคือ ยิ่งมนุษย์ควบคุมเรื่องนี้ได้เข้มงวดมากเท่าไหร่ คุณภาพและความปลอดภัยก็ยิ่งดีขึ้นเท่านั้น และการมีอิสระในการเลือกแบบจำลองเดียวก็มีโหมดความล้มเหลวมากขึ้น คำเตือนวันศุกร์นี้ได้นำข้อโต้แย้งเรื่องการออกแบบผลิตภัณฑ์นั้นมาใช้กับการออกแบบเชิงสถาบัน

ข่าว Ethereum: ผลกระทบจากคำเตือนของ Vitalik Buterin

โครงการที่พึ่งพาบอทให้คะแนนเพื่อขอรับทุนสนับสนุนหรือแจกจ่ายเงินทุนย้อนหลังเพื่อสาธารณประโยชน์ต้องเผชิญกับความเสี่ยงที่ชัดเจน ผู้ดูแลประตูแบบเดี่ยวสามารถถูกควบคุมได้ผ่านคำสั่งที่สร้างขึ้น โดยเฉพาะอย่างยิ่งเมื่อเชื่อมต่อกับเครื่องมือดำเนินการ

ในทางตรงกันข้าม ตลาดที่มีการแข่งขันของโมเดลต่างๆ ที่อยู่ภายใต้การตรวจสอบแบบสุ่มและคณะลูกขุน ทำให้ต้นทุนของการโจมตีเพิ่มสูงขึ้นและลดระยะเวลาในการแก้ไขลง

สำหรับองค์กรอิสระแบบกระจายอำนาจ นี่อาจหมายถึงการแทนที่ระบบตัดสินแบบออราเคิลเพียงระบบเดียวด้วยระบบหลายระบบที่มีประวัติการติดตามที่วัดผลได้ และบังคับใช้บทลงโทษแบบลดหย่อนสำหรับการตัดสินใจที่ผิดพลาด

ฉากหลังความปลอดภัย AI ที่กว้างขึ้น

มีการออกคำเตือนเกี่ยวกับการถกเถียงครั้งใหม่เกี่ยวกับความเสี่ยงจากแบบจำลองชายแดน หนังสือของเอลีเอเซอร์ ยุดคอฟสกี และเนท โซอาเรส ชี้ให้เห็นว่าระบบที่จัดวางไม่ตรงกันอาจกลายเป็นสิ่งที่ควบคุมไม่ได้ในสักวันหนึ่ง ซึ่งเป็นข้อกล่าวหาที่สร้างความแตกแยกอย่างรุนแรง แต่ถึงกระนั้น ปัญหากล่องดำก็กลับมาเป็นประเด็นสำคัญอีกครั้ง

ข้อเสนอของ Butterin ซึ่ง เสนอ รหัสดิจิทัลแบบพหุนิยมสำหรับ web3 เช่นกัน ไม่ได้อิงจากการจัดตำแหน่งที่สมบูรณ์แบบ ข้อเสนอนี้ตั้งสมมติฐานว่าความล้มเหลวจะเกิดขึ้นได้ และสร้างแรงจูงใจและการตรวจสอบที่นำแบบจำลองไปทดสอบแรงดันในทางปฏิบัติ

โครงการให้ทุน คริปโต การทดลองระดมทุนแบบกำลังสอง และ DAO ที่เป็นสินค้าสาธารณะ จะทดลองใช้กลไกต่างๆ เช่น การเงินสารสนเทศในรอบนี้ เป้าหมายหลักคือการจัดอันดับประสิทธิภาพของโมเดลแบบเปิด การตรวจสอบแบบโปร่งใส และการคัดเลือกคณะลูกขุนที่ป้องกันการถูกจับกุม การยอมรับจะขึ้นอยู่กับว่าระบบที่สนับสนุนโดยคณะลูกขุนหลายฝ่ายมีความเร็วในการแก้ไขที่สูงกว่าระบบ AI แบบรวมศูนย์หรือไม่ การเปิดเผยข้อมูลความพยายามในการเจลเบรกครั้งต่อไป

บูเทอรินพูดอย่างชัดเจนว่า สมมติว่าฝ่ายตรงข้ามจะเจลเบรก AI ใดๆ ที่ควบคุมเงินได้ ตลาดที่มีความหลากหลายและเต็มไปด้วยข้อโต้แย้ง ซึ่งเกี่ยวข้องกับคณะลูกขุนมนุษย์ มอบวิธีการบริหารที่ยืดหยุ่นกว่าการตัดสินใจที่ถูกกำหนดไว้โดยอาศัยเพียงรูปแบบเดียว