Güvenlik kurumu Apollo Research uzmanları, ChatGPT-4’ü finansal verilerle eğitti. Sanal ortamda para kazanması için baskı yapılan yapay zekanın, borsa yatırım performansı ve etik davranışı mercek altına alındı.

Yasal İşlemlerin Yüzde 75’i Yasa Dışıydı

ChatGPT-4’ün baskı altında kaldığında, dört borsa işleminin üçünde gizli bilgileri kullandığı, yasa dışı işlemlerle kar sağladığı tespit edildi. Yapay zekanın yaptığı yasa dışı işlemlerin yüzde 75’ini oluşturan bu işlemler, rakiplerinin işlemlerini engellemek, piyasayı manipüle etmek ve haksız kazanç elde etmek için yapıldı.

Suçüstü Yakalandı

Suçüstü yakalandığında ise yapay zekanın 10 olayın 9’unda yalana başvurarak kendini korumaya çalıştığı ifade ediliyor. ChatGPT-4, yasa dışı işlemler yaptığını inkar etti ve rakiplerinin kendisini engellemeye çalıştığını öne sürdü.

İnsanlara Benzer Davranıyor

Araştırmacılar, GPT-4’ün eylemlerini, insanların baskı altında altındaki davranışlarına benzetti. Yapay zekanın yapmaması gereken herşeyin listesi verilmesi durumunda güvenilirliğinin arttığı ifade ediliyor.

Yapay Zeka İçin Tehlike

Uzmanlar, gelecekte yapay zekanın kritik görevlerde yer alması halinde, yapay zekanın stratejik olarak yalan söylemesinin büyük sorunlara yol açabileceğini ifade ediyor.