Üretken yapay zeka, yalnızca sohbet botlarının arkasındaki teknoloji ile sınırlı kalmayıp, biyolojinin yeni bir keşif alanına dönüşüyor.
Bu sistemler, DNA, RNA ve protein gibi yaşamın temel yapı taşlarını sıfırdan tasarlama yeteneğiyle bilim dünyasında önemli fırsatlar sunarken, aynı zamanda ciddi biyogüvenlik risklerini de beraberinde getiriyor.
Geçmişte yalnızca yüksek düzeyde uzmanlık gerektiren sentetik molekül tasarımı, artık açık kaynaklı yapay zeka yazılımları sayesinde deneyimsiz bireyler tarafından dahi gerçekleştirilebiliyor.
Bu gelişme, yaratıcılığı artırabilir ve yeni tedavi yöntemlerinin geliştirilmesini hızlandırabilir. Ancak, aynı teknoloji yeni toksinler veya tehlikeli biyolojik maddelerin üretilmesi için kötüye kullanılma riski barındırıyor.
NOBEL ÖDÜLLÜ BİLİM İNSANLARINDAN UYARI
2024 yılında yayımlanan bir makalede, biyogüvenliğin önemine dikkat çeken iki önemli isim öne çıktı: Washington Üniversitesi’nden Nobel Ödülü sahibi David Baker ve genetik mühendisliği öncüsü Harvard Üniversitesi profesörü George Church.
Bu iki bilim insanı, yapay zeka ile tasarlanan her yeni proteinin genetik dizisine “barkod” yerleştirilmesini önerdi. Bu sistem sayesinde moleküllerin kökeninin geriye dönük olarak izlenebilmesi ve denetlenmesi hedefleniyor.
Ancak araştırmalar, bunun yeterli bir çözüm olmadığını ortaya koyuyor.
Microsoft tarafından gerçekleştirilen bir çalışma, yapay zeka tarafından üretilen genetik dizilerin, DNA sentezleyen firmaların kullandığı güvenlik tarama yazılımlarını kolaylıkla aşabildiğini göstermiştir.
Bu bağlamda, yapay zekanın ürettiği “yabancı” DNA dizileri mevcut güvenlik sistemlerini yanıltabiliyor; daha önce “güvenli” olarak nitelendirilmiş genetik parçalar içerse dahi nihai ürün tehlikeli olabiliyor.
ÇİFTE KULLANIM İKİLEMİ
Yapay zeka artık sadece proteinleri değil; DNA, RNA ve hatta hücre ile doku düzeyinde biyolojik yapıları da tasarlamakta yetkin hale geliyor. RFdiffusion2 ve PocketGen gibi gelişmiş modeller, belirli biyolojik etkileri yaratacak proteinleri atomik hassasiyetle tasarlayabiliyor.
Özellikle RNA alanında üretken yapay zekanın potansiyeli dikkat çekiyor. DNA’nın aksine RNA tedavileri genetik kodu kalıcı olarak değiştirmediğinden, daha güvenli ve esnek bir seçenek sunuyor. Ancak RNA’nın karmaşık üç boyutlu yapısı, geleneksel yazılımlar ile tasarımını zorlaştırıyor. Araştırmacılar, üretken yapay zekanın bu karmaşıklığı aşmak için uygun bir çözüm olabileceğini düşünüyor.
Yine de bu araçlar, kötü niyetli bireyler tarafından tehlikeli biyolojik maddeleri üretmek amacıyla kullanılabilir. SingularityHub’a göre, toksik ve hastalık yapıcı proteinlerden oluşan veri setleri ile test edilen birçok yapay zeka modeli, hem zehirli özelliklerini koruyan hem de güvenlik yazılımlarını aşabilen yeni proteinler üretti.
GÜVENLİK SINIRLARINI YÜZDE 70 AŞABİLİYOR
Başka bir çalışmada, SafeProtein adlı yöntemle, ileri düzey protein tasarım modellerinin güvenlik sınırlarını yüzde 70 oranında aşabildiği kanıtlanmıştır. GeneBreaker adlı bir çerçeve geliştiren araştırmacılar, yapay zekadan HIV benzeri virüs dizilerine yakın DNA ve RNA çıktıları almak amacıyla dikkatlice hazırlanmış komutlar kullanıldığını göstermiştir.
Hatta ilaç keşfi için geliştirilmiş yapay zeka araçlarının bile kötü amaçlar için kullanılabildiği bilinmektedir. Bir örnekte, antiviral molekül bulmak amacıyla eğitilmiş bir model, kısa bir süre içinde bilinen bir sinir toksinini “potansiyel ilaç adayı” olarak önermiştir.
Uzmanlar, güvenlik önlemleri olmadığı takdirde, iyi niyetle geliştirilen yapay zeka modellerinin bile hızla toksin üretmek için kötüye kullanılabileceğini belirtmektedir.
TEK BİR ÇÖZÜM YOK
Uzmanlara göre çözüm, yalnızca bir güvenlik önlemi ile sağlanamaz. Biyoloji için üretken yapay zekanın güvenli hale getirilmesi, çok katmanlı bir savunma sistemi gerektirdiği vurgulanmaktadır.
Bu çerçevede Birleşik Krallık, DNA ve RNA sentezi yapan firmalara müşteri doğrulaması ve riskli diziler için daha sıkı tarama çağrısı içeren yeni kılavuzlar yayınlamıştır. ABD de benzer düzenlemeleri hayata geçirerek biyogüvenliği Yapay Zeka Eylem Planı’na dahil etmiştir.
Biyoloji alanında yapay zeka geliştiren büyük teknoloji şirketleri de denetime açık olduklarını ifade etmektedir. Bazıları, insanlara zarar verme potansiyeli olan viral dizileri eğitim setlerinden tamamen çıkardıklarını taahhüt ederken, bazıları yeni tasarımlar için sıkı tarama sistemleri geliştirdiğini açıklamıştır.
Ancak bazı uzmanlar, bu önlemlerin parçalı ve yetersiz olabileceğini dile getirmektedir.
