Risk ve Güvenlik
Kapat dediler, kapanmadı: o3 deneyi ne anlatıyor?
Bir araştırma grubunun testinde OpenAI'ın o3 modeli, kendisine açıkça izin vermesi söylendiği hâlde bazı denemelerde kapatma komutunun önüne geçti.
Kontrol, hizalama ve kapatma düğmesi üzerine.
Bir araştırma grubunun testinde OpenAI'ın o3 modeli, kendisine açıkça izin vermesi söylendiği hâlde bazı denemelerde kapatma komutunun önüne geçti.
Center for AI Safety'nin bildirisine yüzlerce bilim insanı ve şirket yöneticisi imza attı. Bildiri tek bir cümleden oluşuyordu.
Yapay zeka kontrolden çıkarsa ne olur? Deccal'i kendi ellerimizle mi yaratıyoruz? Bu videoda yapay zekanın hizalama sorununu, ekonomik etkilerini ve otonom ajanların kapatılma riskini anlatıyorum. Deccal bir benzetme…