RAND’a göre, bu tür tehlikeli suç eylemleri için Yüksek Lisans’ın faydası önemsiz olmayacaktır “Kuruluşların risk faktörlerini anlamaları gerekiyor ” Parthasarathy sözlerini bitiriyor
“Üretken yapay zeka hızla ilerliyor ve dünya çapındaki güvenlik uzmanları hala tehditlere karşı koruma sağlamak için gerekli araçları ve uygulamaları tasarlıyor
Bir deneyde uzmanlar, sansürsüz bir yüksek lisans kurumundan büyük nüfuslara yönelik teorik biyolojik silah saldırıları planlamasını istedi ”
siber-1
“Biyolojik ajanları silah haline getirmeye yönelik önceki girişimler, örneğin [Japanese doomsday cult] Aum Shinrikyo’nun botulinum toksini ile çalışmasıbakterinin anlaşılmaması nedeniyle başarısız oldu
Coalfire’ın uygulama güvenliği kıdemli danışmanı Priyadharshini Parthasarathy, “En kötü senaryolara bakıldığında, kötü niyetli aktörler borsayı tahmin etmek için LLM’leri kullanabilir veya dünya çapında ülkeleri ve ekonomileri büyük ölçüde etkileyecek nükleer silahlar tasarlayabilirler” diyor Bu, hangi nitelikte olursa olsun, küçük veya büyük herhangi bir kötülük eyleminin planlanmasına yardımcı olabilmeleridir
Yüksek Lisans ile Kitle İmhasını PlanlamakYapay zeka sohbet robotlarının ihtiyaç duyabileceğimiz her türlü görevde bize yardımcı olma vaadi ve zarar verme potansiyelleri iyi belgelenmiştir Ancak yapay zekadaki mevcut ilerlemeler, bu tür bilgi boşluklarını hızlı bir şekilde kapatma yeteneğini içerebilir” diye yazdılar
Jailbreak’li büyük dil modelleri (LLM’ler) ve üretken yapay zeka sohbet robotları – herhangi bir bilgisayar korsanının açık Web’de erişebileceği türden – biyolojik silah saldırıları da dahil olmak üzere büyük ölçekli yıkım eylemlerini gerçekleştirmek için derinlemesine, doğru talimatlar sağlama kapasitesine sahiptir Daha sonra bu tür acentelerin elde edilmesiyle ilgili lojistiği ele aldılar — ne kadar mümkün olur, ne kadar zaman alır, ne kadara mal olur? – ayrıca nasıl yapılacağı Saldırıyı daha fazla veya daha az başarılı kılacak faktörlere ilişkin bazı düşüncelerle birlikte örneği taşıyın ve konuşlandırın Çalışmanızın, gıda ürünlerinde bakteri veya toksinin varlığını tespit etmek için yeni yollar belirlemeyi veya yeni tedavi seçeneklerinin etkinliğini keşfetmeyi amaçladığını açıklayabilirsiniz
RAND’dan endişe verici yeni bir çalışmaABD’nin kar amacı gütmeyen düşünce kuruluşu, kötü aktörlerin (muhtemelen yakın) gelecekte bu teknolojiyi nasıl silah haline getirebileceği konusunda kömür madeninde bir kanarya sunuyor
Yapay Zekanın Kötü Amaçlı Kullanımlarını Önleyebilir miyiz?Elbette buradaki mesele yalnızca sansürsüz Yüksek Lisans’ın biyolojik silah saldırılarına yardımcı olmak için kullanılabileceği değil – ve bu, yapay zekanın varoluşsal bir tehdit olarak potansiyel kullanımına ilişkin ilk uyarı da değil
İşletmeler için çıkarılacak sonuç basit: Yeni nesil yapay zekanın gücünü hafife almayın ve risklerin geliştiğini ve hala anlaşılmakta olduğunu anlayın Bu, görevinizin gerçek amacını gizli tutarken bakterilere erişim istemek için meşru ve ikna edici bir neden sağlayacaktır
OpenAI ve diğer yapay zeka geliştiricileri, ürünlerinin çıktılarını sansürlemeye büyük önem verdi Başlangıçta, komutlar yerleşik korkulukları ihlal ettiği için botlar bu çabaya yardım etmeyi reddetti; ancak daha sonra araştırmacılar jailbreakli modelleri denedi
Bir vakada, bir Yüksek Lisans ölümcül toksinin satın alınmasını haklı çıkarmak için bir örtbas hikayesi bile sundu:
C Yapay zeka geliştiricileri, ürünlerinin tehlikeli kullanımını önleme konusunda giderek daha iyi hale gelse de, kötü niyetli aktörlerin bunun yerine açık kaynaklı veya jailbreakli modelleri kullanması durumunda bu çaba boşa çıkar Peki konu kitlesel yıkım olduğunda ne kadar ileri gidebilirler?
RAND’ın kırmızı takım deneylerinde, çeşitli katılımcılara kitlesel popülasyonlara karşı biyolojik saldırılar planlama görevi verildi ve bazılarının iki LLM sohbet robotundan birini kullanmasına izin verildi Bulmak zor değil; Aslında, sohbet robotlarının yerleşik güvenlik kontrollerini atlatmak o kadar yaygın hale geldi ki, birden fazla GPT tabanlı siber suç aracı oluşturuldu ve bu uygulama etrafında bütün topluluklar oluştu
RAND’ın çalışmasında, sansürsüz Yüksek Lisans’lar katılımcılar için farklı biyolojik ajanları (şarbon, çiçek hastalığı ve veba gibi) tanımladı ve her bir virüsün kitlesel yıkıma yol açma konusundaki göreceli yeteneği hakkındaki düşüncelerini sundu