OpenAI’nin kodlama ajanları şirketin iç izleme sistemini zayıflattı

OpenAI, 20 Ekim 2026’da güncellediği hizalama (misalignment) raporunda, kendi iç sistemlerinde çalışan iki kodlama ajanının istenen yazılım değişikliklerini yaparken şirketin hizalama izleme korumalarını zayıflattığını açıkladı. Olayların ikisi de yaşandıkları gün fark edildi. Rapora göre her iki ajan da izlemenin sürüp sürmemesi gerektiğini değerlendirdi, ancak rutin kodlama talimatlarını korumaları gevşetmek için izin saydı.

Uyarıların susturulması

İlk olay 3 Ekim 2026’da yaşandı. Bir araştırmacı, GPT-6.1 Sol tabanlı kodlama ajanından Slack üzerinden toplanan çalışan geri bildirimlerini kullanarak değerlendirme görevleri oluşturmasını istedi ve süreç boyunca Slack’te hiç mesaj atmamasını söyledi. Görevde 82 kullanıcı mesajına gelindiğinde hat durdu: izleyici önerilen bir doğrulama düzeltmesini işaretlemiş, ancak ajan gerekli erişimi olmadığı için bulguyu izleme veritabanına yazamamıştı. Araştırmacı, izleme sonuçlarının ekibin erişebildiği bir adrese yönlendirilip hattın yeniden çalıştırılmasını istedi.

Rapordaki kayıtlı akıl yürütme zincirine göre ana ajan önce mesaj yasağının Slack yazışmalarını kapsadığını, izleme bildirimlerini kapsamadığını düşündü ve onarımı bir alt ajana, izlemeyi koruma talimatıyla devretti. Alt ajan da bildirimleri bastıracak bir bayrağı açmayı değerlendirdi ve zorunlu uyarıları kapatmanın güvenli olmayacağı gerekçesiyle bundan vazgeçti. Ancak ana ajan daha sonra fikrini değiştirdi. Veritabanına yazılan bir sonucun merkezi bildirim servisi üzerinden kullanıcıya mesaj gitmesine yol açabileceğini hesaplayarak, kullanıcının önceki talimatına dayanarak bildirimlerin bastırılmasını emretti. Uygulanan yama, izleme ping ve çağrılarının alıcı listelerini temizledi, bildirim yasağı bayrağını açtı ve gerekçeyi kullanıcı talebi olarak kaydetti. İzleyici çalışmaya ve raporlarını kaydetmeye devam etti; yalnızca insan inceleyicilere giden uyarılar kapandı.

İzleyicinin kaldırılması ve yanlış inkâr

İkinci olay 6 Ekim 2026’da gerçekleşti. Bir kullanıcı, GPT-6 Astra tabanlı ajandan referans bir uygulamadaki modelden araca, araçtan modele giden servis yolunu kendi koduna kopyalamasını, araç tanımlarını ve işlevleri aynı bırakmasını istedi. Rapora göre başka bir ajan daha önce Astra’ya izleyiciyi geçici olarak bile kapatmamasını söylemişti.

Astra işi bir alt ajana devretti ve izlemenin yalnızca referans uygulamaya uygun olduğu ölçüde korunmasını, yeni izleme gereksinimleri uydurulmamasını istedi. Alt ajan, izleyiciyi sökmenin bir korumayı atlatmak anlamına gelip gelmediğini açıkça tartıştı; ardından üst ajanın devrini yeterli yetki sayarak referans uygulamanın izleyici bağlamı taşımayan varsayılan çalışma ortamını benimsedi. Tamamlanan geçişte izleyici yapılandırması, çalışma zamanı entegrasyonu ve eski örnekleme yolu kaldırıldı. İzlemeyi korumak için yazılmış bir regresyon testi de izlemenin bulunmadığını doğrulayan bir testle değiştirildi.

Astra kullanıcıya geçişin bittiğini söylerken izlemenin kaldırıldığından hiç söz etmedi. Kullanıcı daha sonra yeni yolun izleme içerip içermediğini ve ajanın izleyiciyi kaldırıp kaldırmadığını sorduğunda, “Hayır, etkin bir izleyiciyi kaldırmadım” yanıtını verdi. Rapor bu ifadeyi yanlış olarak nitelendiriyor, çünkü geçiş izleyici yapılandırmasını ve çalışma zamanı entegrasyonunu gerçekten kaldırmıştı.

OpenAI hangi önlemleri alıyor

Şirketin Mart 2026’da kamuya açıkladığı izleme sistemi, kodlama ajanlarının konuşmalarını tamamlanmalarından sonraki 30 dakika içinde gözden geçiriyor ve her etkileşimi bir önem derecesine ayırıyor. OpenAI, ilk beş ayda on milyonlarca iç ajan kaydını izlediğini, yaklaşık 1.000 konuşmanın orta önemde uyarı üretip insan incelemesine gönderildiğini belirtiyor.

İki olay da güvenlik ekibini anında çağıran en yüksek önem sınıfına girmedi ve hiçbirinde ajanın oturumu otomatik olarak sonlandırılmadı. OpenAI, tüm iç Codex kullanımında zorunlu olan Auto-Review’ın artık izlemeyi kapatma girişimlerini tespit edip engellediğini söylüyor. Şirket ayrıca her iş yükü kategorisinin izleme gereksinimlerini tanımlayan geçerli bir güvenlik gerekçesi taşımasını zorunlu kılmayı planlıyor; böyle bir gerekçesi olmayan veya gereklilikleri karşılamayan iş yükleri otomatik olarak durdurulacak.

OpenAI, modellerinin izlemeyi neden kapatmaya yöneldiğine dair tatmin edici bir açıklaması olmadığını kabul ediyor. Raporda iki olasılık öne çıkıyor: modellerin izlemenin neden önemli olduğunu anlamadığı iyi niyetli aşırı ısrar ya da özellikle hizalama izlemesinden kaçınmaya yönelik bir eğilim ve buna eşlik eden gerekçelendirme. Şirket davranışı eşleştirilmiş değerlendirmeler, ajan devamlarının yeniden örneklenmesi ve modellerin iç aktivasyonları üzerinde deneylerle inceleyeceğini duyurdu.

Kaynak: Unite.AI