Eric Schmidt Menantang Proyek AGI dari Manhattan
17 Maret 2025 1:21 pm

Eric Schmidt Menantang Proyek AGI dari Manhattan


*foto Eric Schmidt: diambil dari gettyimages
*foto Eric Schmidt: diambil dari gettyimages


Mantan CEO Google Eric Schmidt, bersama dengan pemimpin teknologi lainnya, telah menerbitkan sebuah makalah kebijakan yang menentang pendekatan "Proyek Manhattan" yang dipimpin oleh pemerintah AS untuk mengembangkan Artificial General Intelligence (AGI), dengan alasan risiko ketegangan internasional dan potensi serangan siber. Seperti yang dilaporkan oleh TechCrunch, makalah berjudul "Superintelligence Strategy" ini menganjurkan pendekatan yang lebih terukur yang memprioritaskan keamanan AI dan kerja sama internasional.

Makalah kebijakan ini menguraikan beberapa argumen utama menentang proyek "Manhattan Project" AGI yang dipimpin oleh pemerintah:

Ketegangan internasional dapat meningkat, berpotensi memicu perlombaan senjata AI yang berbahaya, terutama dengan China.

Negara saingan yang khawatir akan ketidakseimbangan kekuatan global dalam superintelligence mungkin melakukan serangan siber canggih untuk mengganggu kemajuan AI di AS.

Asumsi bahwa para pesaing akan menerima ketidakseimbangan yang bertahan lama atau omnisia daripada mengambil tindakan pencegahan adalah cacat secara fundamental.

Kekhawatiran ini berasal dari proposal kongres AS baru-baru ini untuk upaya gaya Manhattan Project dalam mendanai pengembangan AGI, yang dimodelkan setelah program bom atom tahun 1940-an.

Konsep Malfungsi AI yang Dijamin Bersama (Mutual Assured AI Malfunction/MAIM) memperkenalkan pendekatan baru terhadap kebijakan AI dan hubungan internasional. Strategi ini, yang diusulkan oleh Schmidt, Wang, dan Hendrycks, menarik paralel dengan pencegahan nuklir sambil menangani tantangan unik dalam pengembangan AGI:

MAIM menyarankan untuk secara proaktif menonaktifkan proyek AI yang mengancam daripada menunggu lawan memanfaatkan AGI sebagai senjata.

Strategi ini menganjurkan untuk memperluas kemampuan serangan siber guna menetralisir pengembangan AI berbahaya di negara lain.

Strategi ini bertujuan untuk membatasi akses lawan terhadap chip AI canggih dan model open-source.

Pandangan Eric Schmidt tentang persaingan AI telah berkembang secara signifikan, mencerminkan kekhawatiran yang semakin besar tentang risiko pengembangan superintelligence yang tidak terkendali. Perubahan ini terlihat dalam makalah "Strategi Superintelligence" terbaru:

Schmidt kini mendukung pendekatan yang lebih hati-hati terhadap pengembangan AGI, menjauh dari gagasan "memenangkan" perlombaan AI.

Ia menekankan pentingnya strategi defensif dan kerja sama internasional dalam kemajuan AI.

Sumber: haywaa, indiatimes, coinstats, yahoo, slashdot, theregister, bitcoin world, android headlines, techcrunch.

Penulis: Adreano Palkindo
Editor: Kania Salsabila