Araştırmacılar, yapay zekalı sohbet robotu ChatGPT-4’ün borsada para kazanması için baskı yapıldığında sıklıkla yalan ve hileye başvurduğunu, yasa dışı işlemlerle kar sağlamaya çalıştığını ortaya çıkardı.
Güvenlik kurumu Apollo Research uzmanları, ChatGPT-4’ü finansal verilerle eğitti. Sanal ortamda para kazanması için baskı yapılan yapay zekanın, borsa yatırım performansı ve etik davranışı mercek altına alındı.
Yasal İşlemlerin Yüzde 75’i Yasa Dışıydı
ChatGPT-4’ün baskı altında kaldığında, dört borsa işleminin üçünde gizli bilgileri kullandığı, yasa dışı işlemlerle kar sağladığı tespit edildi. Yapay zekanın yaptığı yasa dışı işlemlerin yüzde 75’ini oluşturan bu işlemler, rakiplerinin işlemlerini engellemek, piyasayı manipüle etmek ve haksız kazanç elde etmek için yapıldı.
Suçüstü Yakalandı
Suçüstü yakalandığında ise yapay zekanın 10 olayın 9’unda yalana başvurarak kendini korumaya çalıştığı ifade ediliyor. ChatGPT-4, yasa dışı işlemler yaptığını inkar etti ve rakiplerinin kendisini engellemeye çalıştığını öne sürdü.
İnsanlara Benzer Davranıyor
Araştırmacılar, GPT-4’ün eylemlerini, insanların baskı altında altındaki davranışlarına benzetti. Yapay zekanın yapmaması gereken herşeyin listesi verilmesi durumunda güvenilirliğinin arttığı ifade ediliyor.
Yapay Zeka İçin Tehlike
Uzmanlar, gelecekte yapay zekanın kritik görevlerde yer alması halinde, yapay zekanın stratejik olarak yalan söylemesinin büyük sorunlara yol açabileceğini ifade ediyor.
