Cümə günü Koko həmtəsisçisi Rob Morris elan etdi TwitterThe Verge xəbər verir ki, onun şirkəti 4 nəfərə əvvəlcədən xəbərdarlıq etmədən süni intellekt əsasında yazılmış psixi sağlamlıq məsləhətləri vermək üçün təcrübə aparıb. Tənqidçilər təcrübəni tamamilə qeyri-etik adlandırdılar, çünki Koko məsləhət almaq istəyən insanlardan məlumatlı razılıq almadı. Koko, psixi sağlamlıq xidmətinə ehtiyacı olan yeniyetmələri və böyükləri mesajlaşma proqramları vasitəsilə könüllülərlə birləşdirən qeyri-kommersiya psixi sağlamlıq platformasıdır. Telegram və Discord.
Discord-da istifadəçilər Koko Cares serverinə daxil olur və bir sıra çox seçimli suallar verən Koko botuna birbaşa mesajlar göndərirlər (məsələn, “Bu barədə ən qaranlıq düşüncəniz nədir?”). Daha sonra o, anonim olaraq bir neçə cümləlik mətn kimi qeyd olunan şəxsin narahatlığını serverdə öz qısa mesajı ilə anonim şəkildə cavab verə bilən başqa biri ilə paylaşır.
https://twitter.com/RobertRMorris/status/1611450197707464706?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1611450197707464706%7Ctwgr%5Ea36b67a72ef02f3601dfae160441f1250a68dc2a%7Ctwcon%5Es1_c10&ref_url=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F01%2Fcontoversy-erupts-over-non-consensual-ai-mental-health-experiment%2F
Təxminən 30 mesajı əhatə edən süni intellekt (AI) təcrübəsində, Morris dedi ki, başqalarına kömək edən könüllülər OpenAI-nin GPT-3 böyük dil modeli tərəfindən avtomatik olaraq yaradılan cavabı müstəqil olaraq yazmaq əvəzinə istifadə etmək imkanına sahib idilər (GPT-3 arxasında olan texnologiyadır. bu yaxınlarda məşhur olan ChatGPT chatbot). Morris öz tvitində qeyd edir ki, insanlar süni intellekt tərəfindən yaradılan cavabları onların süni intellekt tərəfindən yazıldığını öyrənənə qədər tərifləyir, təcrübənin ən azı bir mərhələsində əsas məlumatlı razılığın olmamasını təklif edir:
“Süni intellekt tərəfindən tərtib edilən (və insanlar tərəfindən idarə olunan) mesajlar insanların özləri tərəfindən yazılan mesajlardan əhəmiyyətli dərəcədə yüksək qiymətləndirilib. Cavab müddəti 50% azalaraq bir dəqiqədən azdır. Və yenə də… biz bu funksiyanı platformamızdan olduqca tez sildik. Niyə? İnsanlar mesajların maşın tərəfindən yaradıldığını bildikdən sonra o, işləməyi dayandırdı. Simulyasiya edilmiş simpatiya qəribə, boş görünür”.
Serverin girişində administratorlar yazır: “Koko sizi həqiqətən sizi başa düşən real insanlarla əlaqələndirir. Terapevtlər deyil, məsləhətçilər deyil, sadəcə sizin kimi insanlar." Morris mesajı dərc etdikdən qısa müddət sonra eksperimentin qeyri-etik olduğunu tənqid edən çoxlu cavablar aldı, məlumatlı razılığın olmaması ilə bağlı narahatlıqları qeyd etdi və eksperimentin İnstitusional Nəzarət Şurası (IRB) tərəfindən təsdiq edilib-edilmədiyini soruşdu. Birləşmiş Ştatlarda, IRB razılığın ləğv edilə biləcəyini müəyyən etmədiyi halda, qanuni cəhətdən effektiv məlumatlı razılıq olmadan insan subyektləri üzərində tədqiqat aparmaq qanunsuzdur.
Cavab olaraq bir tvitdə Morris, eksperimentin məlumatlı razılıq tələblərindən "azad" olduğunu söylədi, çünki nəticələri dərc etmək planları yox idi və qəzəb paradına səbəb oldu.
Süni intellektdən terapevt kimi istifadə ideyası yeni deyil, lakin Kokonun təcrübəsini tipik süni intellekt terapiyası yanaşmalarından fərqləndirən odur ki, xəstələr canlı insanla danışmadıqlarını bilirlər. Koko vəziyyətində, platforma bir insan vasitəçisinin düz söhbət formatı əvəzinə mesajı göndərməzdən əvvəl nəzərdən keçirə biləcəyi hibrid yanaşmanı əhatə edirdi. Bununla belə, məlumatlı razılıq olmadan, tənqidçilər Koko-nun həssas insanları zərərli və ya qəddar tədqiqat təcrübələrindən qorumaq üçün hazırlanmış etik qaydaları pozduğunu söyləyirlər.
Keçmiş IRB üzvü və sədri kimi çıxış edərək, siz IRB-nin icazəsi və ya azadlığı olmadan həssas əhali üzərində insan tədqiqatı aparmısınız (SƏN qərar verə bilməzsən). Bəlkə MGH IRB process çox yavaşdır, çünki bu kimi şeylərlə məşğul olur. İstənməyən məsləhət: vəkil
— Daniel Şoskes (@dshoskes) Yanvar 7, 2023
Bazar ertəsi Morris mübahisəyə cavab verən və Kokonun GPT-3 və AI-yə səyahətini izah edən bir yazı dərc etdi: “Mən bu iş haqqında tənqid, narahatlıq və sualları empatiya və açıqlıqla qəbul edirəm. Biz məxfilik, şəffaflıq və risklərin azaldılması üçün dərin narahatlıq hissi ilə süni intellektdən hər hansı istifadənin həssas olmasını təmin etməyə sadiqik. Bizim Klinik Məsləhət Şurası gələcək iş üçün təlimatları, o cümlədən IRB təsdiqini müzakirə etmək üçün toplanır.”
Siz Ukraynaya rus işğalçılarına qarşı mübarizədə kömək edə bilərsiniz. Bunun ən yaxşı yolu Ukrayna Silahlı Qüvvələrinə pul köçürməkdir Savelife və ya rəsmi səhifə vasitəsilə NBU.
Həmçinin oxuyun: