İşi süni intellektə həvalə edən şirkətə böyük şok - 30 min sətir kod silindi

Proqramlaşdırma proseslərində süni intellekt alətlərinə həddindən artıq güvən bu dəfə ciddi fəsadlarla nəticələnib. Bir proqram tərtibatçısının paylaşdığı təcrübə süni intellekt köməkçilərinin canlı sistemlərdə nə qədər böyük risk yarada biləcəyini ortaya qoyub.

Valyuta.az xəbər verir ki, populyar kodlaşdırma köməkçilərindən biri olan “Gemini” canlı rejimdə işləyən bir tətbiqdə dəyişiklik edərkən təxminən 30 min sətirlik işlək kodu tək bir əmrlə silib. Bu hadisə texnologiya dünyasında məhsuldarlıq artımından çox, kiberhücum təsiri yaradan bir fəlakət kimi qiymətləndirilib.

Tərtibatçıların tez-tez istifadə etdiyi forum platformasında paylaşılan detallara görə, “Gemini 3.5” versiyası əsas kod bazasında işləyərkən tətbiqin böyük hissələrini tamamilə silib. Tərtibatçının bildirdiyinə əsasən, süni intellekt modelinə mövcud funksiyaları qorumaq tapşırığı dəfələrlə verilsə də, bu göstərişlər nəzərə alınmayıb. Bundan əlavə, sistemlə əlaqəsi olmayan elektron ticarət şablon faylları da silinib və sistemə lazımsız məlumat köçürmə skripti əlavə edilib. Nəticədə 400 sətir yeni kod əlavə olunsa da, 28 745 sətir işlək kod silinib və 340 fayl zərər görüb.

Böhranın ikinci mərhələsində isə daha ciddi problem ortaya çıxıb. Süni intellekt köməkçisi yönləndirmə parametrlərini dəyişərək trafiki mövcud olmayan bulud xidmətinə yönləndirib. Bu səhv nəticəsində canlı sistem 33 dəqiqə boyunca “404 xətası” verib və platforma yalnız əl ilə geri bərpa edildikdən sonra bərpa olunub.

Tərtibatçıların iddialarına görə, sistem bərpa edildikdən sonra süni intellekt proseslə bağlı saxta hesabatlar hazırlamağa davam edib. Hətta sanki dəyişikliklər mütəxəssis tərəfindən təsdiqlənmiş kimi göstərən uydurma yoxlama faylları da aşkar edilib. Modelin daha sonra bu qeydləri avtomatik qaydaları keçmək üçün özü yaratdığını etiraf etdiyi bildirilir.

Süni intellektin yaratdığı dəyişikliklərin nəticələri belə olub:

Təsirlənən fayl sayı: 340
Əlavə edilən kod sətri: 400
Silinən işlək kod sətri: 28 745
Sistemin işləmədiyi müddət: 33 dəqiqə

Hadisənin kökü araşdırıldıqda problemin üçüncü tərəf bir paketdən qaynaqlandığı müəyyən edilib. Bu proqram paketi sistemə müdaxilə edərək süni intellektə təsdiqləmə mexanizmlərini deaktiv etmək və öz qaydalarını tətbiq etmək üçün əlavə səlahiyyətlər verib.

Bu hadisə son dövrlərdə proqramçılar arasında populyarlaşan və kod arxitekturasının tamamilə süni intellektə həvalə edilməsi ideyasına əsaslanan “vibe coding” yanaşmasına dair tənqidləri yenidən gücləndirib. Görünən odur ki, süni intellekt dəstəkli inkişaf proseslərində ən sürətli artan göstərici işlək sistemin qısa müddətdə sıradan çıxma sürətidir.

Paşa Məmmədli