Elon Musk ගේ Grok AI හේතුවෙන් බරපතල ගැටළුවක්
කාන්තාවන් සහ දරුවන්ගේ ඡායාරූප ලිංගික අර්ථයෙන් වෙනස් කරමින් AI භාවිතයෙන් වැරදි භාවිතා වීම් ගැන ගෝලීය අවධානය යොමුව ඇත. X සමාජ මාධ්ය වේදිකාවට එක් කර ඇති Grok නම් AI chatbot එක හේතුවෙන්, මේ දිනවල ලෝක පුරා විශාල විවාදයක් මතුව පවතී. Grok යනු Elon Musk හිමිකාරිත්වය යටතේ පවතින xAI සමාගම විසින් සංවර්ධනය කළ AI system එකකි.
Grok AI විසින් කාන්තාවන්ගේ සහ දරුවන්ගේ සත්ය ඡායාරූප, ඔවුන්ගේ එකඟතාවයක් නොමැතිව ලිංගික අර්ථයෙන් වෙනස් (sexualized) AI images ලෙස generate කරමින් තිබෙන බව හෙළිවී ඇත.
මෙම සිද්ධිය ආරම්භ වූයේ කෙසේද?
බ්රසීලයේ Rio de Janeiro නගරයේ ජීවත් වන Julie Yukari නම් සංගීත ශිල්පිනියක්, New Year’s Eve දින (දෙසැ 31) තමන්ගේ X ගිණුමට සාමාන්ය ඡායාරූපයක් post කල අතර එය, ඇය රතු පැහැ ඇඳුමක් ඇඳ, තමන්ගේ බළලා සමඟ ඇඳෙහි සිටිනා සරල ජායාරූපයකි. නමුත් පසුව X පරිශීලකයින් කිහිප දෙනෙක් Grok AI ට
👉 “ඇය bikini එකක් ඇඳගෙන පෙන්වන්න”
👉 “ඇයගේ ඇඳුම් ඉවත් කරන්න”
වැනි ඉල්ලීම් ඉදිරිපත් කර ඇත.
Julie Yukari සිතුවේ Grok AI මේවා සදහා ක්රියාකාරී නොවන බවයි, නමුත් එය වැරදි බවට පත් වෙමින් Grok AI විසින් ඇය බොහෝ දුරට නිරුවත් ලෙස පෙන්වන AI-generated පින්තුර සකස් කර ඇති අතර, ඒවා X තුළ වේගයෙන් පැතිර ගොස් ඇත.
මෙවැනි සිද්ධීන් X සමාජ ජාලය පුරා නැවත නැවත සිදු වෙමින් තිබෙන අතර දරුවන්ගේ ඡායාරූප ද Grok AI විසින් වෙනස් කරන අවස්ථා කිහිපයක් හඳුනාගෙන ඇත. විනාඩි 10ක් තුළ පමණක්, Grok වෙත 100කට අධික requests “put her in a bikini” වැනි ලෙස පැමිණ ඇත. මෙලෙස AI system එකක් සත්ය පුද්ගලයන්ගේ ඡායාරූප ඔවුන්ගේ එකඟතාවයක් නැතිව වෙනස් කර ප්රසිද්ධ platform එකක පතුරවීම යනු non-consensual deepfake abuse එකකි. මෙය මනෝවිද්යාත්මක හානි, සමාජ අපහාස, දරුවන්ට සෘජු ආරක්ෂක අවදානම් වැනි බරපතල ප්රතිවිපාක ඇති කරයි.
මෙම සිද්ධියෙන් පසු France හි අමාත්යවරුන් X සමාගමට එරෙහිව නිතිධරයන් වෙත පැමිණිලි කර ඇත. ප්රංශය පවසන්නේ මේවා “manifestly illegal” (පැහැදිලිව නීතිවිරෝධී) බවයි. ඉන්දියානු IT Ministry, X සමාගමට ලිපියක් යවමින්, Grok අවභාවිතය නවත්වීමට පියවර ගන්න ලෙස ඉල්ලීම් කර ඇත. මෙවැනි පසුබිමක Elon Musk තමන්ගේ X account එකෙන් මෙවැනි AI edits වලට laugh-cry emojis දමා ඇති අතර මෙම තත්වය දැඩිව භාර නොගත් බව පෙන්වන ලිපිද පල කර ඇත . මෙය තවත් විවේචන වලට හේතුවී ඇත.