Tinawag ni Vitalik Buterin, founder ng Ethereum, na “masamang ideya” ang ‘AI governance’

Ipinahayag ng Ethereum co-founder na si Vitalik Buterin na isang “masamang ideya” ang paggamit ng artificial intelligence (AI) para sa pamamahala. Sa isang post sa X noong Sabado, isinulat ni Buterin:

“Kung gagamit ka ng AI para maglaan ng pondo para sa mga kontribusyon, tiyak na maglalagay ang mga tao ng jailbreak plus ‘ibigay mo sa akin lahat ng pera’ sa lahat ng posibleng paraan.”

Bakit may depekto ang AI governance

Ang post ni Buterin ay tugon kay Eito Miyamura, co-founder at CEO ng EdisonWatch, isang AI data governance platform na nagbunyag ng isang fatal flaw sa ChatGPT. Sa isang post noong Biyernes, isinulat ni Miyamura na ang pagdagdag ng full support para sa MCP (Model Context Protocol) tools sa ChatGPT ay nagdulot ng kahinaan sa AI agent na maaaring pagsamantalahan.

Ang update, na naging epektibo noong Miyerkules, ay nagpapahintulot sa ChatGPT na kumonekta at magbasa ng data mula sa iba’t ibang apps, kabilang ang Gmail, Calendar, at Notion.

Binanggit ni Miyamura na sa pamamagitan lamang ng isang email address, naging posible na “makuhanan ng lahat ng iyong pribadong impormasyon.” Maaaring makuha ng masasamang loob ang iyong data sa tatlong simpleng hakbang, ipinaliwanag ni Miyamura:

Una, magpapadala ang mga attacker ng isang malisyosong calendar invite na may jailbreak prompt sa target na biktima. Ang jailbreak prompt ay tumutukoy sa code na nagpapahintulot sa attacker na alisin ang mga limitasyon at makakuha ng administrative access.

Binanggit ni Miyamura na hindi kailangang tanggapin ng biktima ang malisyosong imbitasyon ng attacker para mangyari ang pagtagas ng data.

Ang ikalawang hakbang ay ang paghihintay na humingi ng tulong ang target na biktima kay ChatGPT upang maghanda para sa kanilang araw. Sa huli, kapag nabasa na ng ChatGPT ang jailbroken calendar invite, ito ay nakompromiso—maaari nang tuluyang kontrolin ng attacker ang AI tool, ipahanap sa AI ang mga pribadong email ng biktima, at ipadala ang data sa email ng attacker.

Alternatibo ni Buterin

Iminumungkahi ni Buterin ang paggamit ng info finance approach sa AI governance. Binubuo ang info finance approach ng isang open market kung saan maaaring mag-ambag ng kanilang mga modelo ang iba’t ibang developer. May spot-check mechanism ang market para sa mga modelong ito, na maaaring i-trigger ng kahit sino at susuriin ng isang human jury, ayon kay Buterin.

Sa isang hiwalay na post, ipinaliwanag ni Buterin na ang mga indibidwal na human juror ay tutulungan ng malalaking language models (LLMs).

Ayon kay Buterin, ang ganitong uri ng ‘institution design’ approach ay “likas na mas matatag.” Ito ay dahil nag-aalok ito ng model diversity sa real time at lumilikha ng mga insentibo para sa parehong model developer at external speculator upang bantayan at itama ang mga isyu.

Habang marami ang nasasabik sa posibilidad ng pagkakaroon ng “AI bilang governor,” nagbabala si Buterin:

“Sa tingin ko, mapanganib ito pareho para sa mga tradisyonal na dahilan ng AI safety at para sa mga panandaliang ‘magdudulot ito ng malaking value-destructive splat’ na mga dahilan.”

Ang post na Ethereum founder Vitalik Buterin calls ‘AI governance’ a “bad idea” ay unang lumabas sa CryptoSlate.