Getty Images
فیس بُک، انسٹاگرام اور واٹس ایپ کی مالک ٹیکنالوجی کمپنی میٹا کے اوپر دباؤ بڑھ رہا ہے کہ وہ اس بات کی وضاحت کرے کہ اس نے مصنوعی ذہانت (اے آئی) کے نظام کو تربیت دینے والی ایک کمپنی کے ساتھ معاہدہ کیوں منسوخ کیا، وہ بھی اس وقت جب کینیا میں قائم اس کمپنی کے کچھ ملازمین نے الزامات عائد کیے تھی کہ انھیں میٹا کے سمارٹ گلاسز کی مدد سے بنائی گئی انتہائی نجی مناظر پر مشتمل ویڈیوز دیکھنا پڑتی ہیں۔
رواں برس فروری میں اے آئی کمپنی ساما کے ورکرز نے دو سویڈش اخبارات کو بتایا تھا کہ انھوں نے گلاسز استعمال کرنے والے افراد کو بیت الخلا جاتے اور سیکس کرتے ہوئے تک دیکھا ہے۔
ان الزامات کے منظرِ عام پر آنے کے دو ماہ سے بھی کم عرصے بعد میٹا نے ساما کے ساتھ اپنا معاہدہ ختم کر دیا۔ ساما کے مطابق اس فیصلے کے نتیجے میں 11 سو سے زیادہ ملازمین کو فارغ کر دیا جائے گا۔
میٹا کا کہنا ہے کہ اس نے یہ قدم اس لیے اٹھایا کیونکہ ساما اس کے معیار کے مطابق کام نہیں کر پا رہی تھا، تاہم کمپنی اس الزام کو مسترد کرتی ہے۔
کینیا میں ملازمین کی ایک تنظیم کا الزام ہے کہ میٹا نے معاہدہ ختم کرنے کا فیصلہ اس لیے لیا کیونکہ ورکرز نے اپنی مشکلات کے بارے میں آواز اٹھائی تھی۔
میٹا نے اس الزام پر براہِ راست کوئی جواب نہیں دیا، تاہم بی بی سی نیوز کو دیے گئے ایک بیان میں اس کا کہنا تھا کہ اس نے ’ساما کے ساتھ کام ختم کرنے کا فیصلہ اس لیے کیا کیونکہ وہ ہمارے معیار پر پورا نہیں اترتی۔‘
ساما نے اپنے کام کے معیار کا دفاع کرتے ہوئے ایک بیان میں کہا ہے کہ ساما اپنے تمام کلائنٹس بشمول میٹا کے ساتھ کیے گئے آپریشنل، سکیورٹی اور معیار سے متعلق درکار تمام تقاضے مستقل طور پر پورے کرتی آئی ہے۔
’ہمیں کسی بھی مرحلے پر یہ نہیں بتایا گیا کہ ہم کسی معیار پر پورا نہیں اترے اور ہم اپنے کام کے معیار اور دیانت پر پوری طرح قائم ہیں۔‘
’ڈرائنگ رومز سے لے کر برہنہ جسموں تک سب دیکھنا پڑتا ہے‘
فروری کے آخر میں سویڈش اخبارات سویئنسکا داگ بلادیت اور گوتھنبرگس پوسٹن نے ایک تحقیقاتی رپورٹ شائع کی، جس میں ان ورکرز کے بیانات شامل تھے جنھیں میٹا کے گلاسز سے فلمائی گئی ویڈیوز کا جائزہ لینے کا کام سونپا گیا تھا۔
ایک ورکر نے اس حوالے سے بتایا کہ ’ہمیں ڈرائنگ رومز سے لے کر برہنہ جسموں تک سب کچھ دیکھنا پڑتا ہے۔‘
ان خبروں کی اشاعت کے وقت میٹا نے تسلیم کیا تھا کہ جب لوگ میٹا اے آئی کے ساتھ مواد شیئر کرتے ہیں تو بعض اوقات سب کنٹریکٹڈ ورکرز اس کے سمارٹ گلاسز سے فلمائے گئے مواد کا جائزہ لیتے ہیں۔
میٹا کا کہنا تھا کہ ایسا کرنے کا مقصد صارف کے تجربے کو بہتر بنانا ہے اور یہ طریقہ کار دیگر کمپنیوں میں بھی عام ہے۔
تاہم میٹا کے ان انکشافات کے بعد ریگولیٹرز متحرک ہو گئے۔ سویڈش تحقیق کے فوراً بعد برطانیہ میں ڈیٹا کی نگرانی کرنے والے ادارے انفارمیشن کمشنرز آفس (آئی سی او) نے میٹا کو ایک خط لکھا جس میں اس رپورٹ کو 'تشویشناک' قرار دیا گیا۔
اس طرح کینیا کے آفس آف دی ڈیٹا پروٹیکشن کمشنر نے بھی اعلان کیا کہ وہ گلاسز سے متعلق رازداری کے خدشات پر تحقیقات شروع کر رہے ہیں۔
’خدا سے بات‘ کے لیے اے آئی کا استعمال: ’اپنے عمل پر توجہ دو اور نتیجے کی فکر چھوڑ دو‘’مجھے خفیہ کیمرے والے سمارٹ چشموں سے لاعلمی میں فلمایا گیا، پھر سوشل میڈیا پر ٹرول کیا گیا‘گروک اے آئی کا خواتین کی نیم برہنہ تصاویر بنانے کے لیے استعمال: ’نامناسب مواد بنانے کا عمل تکنیکی خامی نہیں، کاروباری انتخاب ہے‘’میں چاہتی تھی چیٹ جی پی ٹی میری مدد کرے لیکن اس نے مجھے خودکشی کا طریقہ بتایا‘
ملازمین کی برطرفیوں کی خبر پر ردعمل دیتے ہوئے میٹا کے ایک ترجمان نے بی بی سی کو بتایا کہ گذشتہ ماہ کمپنی نے ان الزامات کی جانچ کے دوران ساما کے ساتھ اپنا کام عارضی طور پر روک دیا تھا۔
’ہم ان معاملات کو سنجیدگی سے لیتے ہیں۔ تصاویر اور ویڈیوز صارفین کی نجی ملکیت ہیں۔ مصنوعات کی کارکردگی بہتر بنانے کے لیے کچھ افراد مصنوعی ذہانت کے مواد کا جائزہ لیتے ہیں، جس کے لیے ہم صارفین سے واضح طور پر ان کی رضامندی حاصل کرتے ہیں۔‘
’رازداری کا معیار‘
ستمبر میں میٹا نے رے بین اور اوکلی برانڈز کے اشتراک سے اے آئی صلاحیتوں کے حامل گلاسز کی ایک نئی رینج متعارف کروائی تھی۔
یہ گلاسز لکھی تحاریر کا ترجمہ یا صارف جن مناظر کو دیکھ رہا ہو ان کے متعلق سوالات کے جوابات دینے کی صلاحیت رکھتے ہیں۔ مصنوعی ذہانت کے حامل یہ چشمے بالخصوص نابینا یا جزوی طور پر بصارت سے محروم افراد کے لیے مددگار ثابت ہو سکتے ہیں۔
تاہم جیسے جیسے یہ آلات مقبول ہوئے ہیں، ان کے غلط استعمال سے متعلق خدشات میں بھی اضافہ ہو رہا ہے۔
سویڈش اخبارات سے بات کرنے والے ملازمین ڈیٹا اینوٹیٹرز تھے، جو کسی بھی مواد پر فوری طور پر لیبل لگاتے تھے تاکہ میٹا اے آئی کو تصاویر کو سمجھنے کی تربیت دی جا سکے۔
ان ورکرز نے بتایا کہ وہ صارف کی مصنوعی ذہانت کے ساتھ ہونے والی گفتگو کے ٹرانسکرپسٹس بھی پڑھتے تھے تاکہ یہ جانچا جا سکے کہ آیا اے آئی نے سوالات کے مناسب جواب دیے یا نہیں۔
Bloomberg via Getty Images
ساما کے ایک اہلکار نے ان اخبارات کو بتایا کہ ایک موقع پر ایک شخص کے گلاسز بیڈروم میں ریکارڈنگ کرتے رہ گئے جہاں بعد ازاں ایک خاتون جو بظاہر صارف کی اہلیہ تھیں، کپڑے بدلتی نظر آئیں۔
میٹا کے اے آئی گلاسز کے فریم کے کونے میں ایک لائٹ ہوتی ہے جو بلٹ ان کیمرہ کی جانب سے ریکارڈنگ کے وقت روشن ہو جاتی ہے۔
تاہم کینیا میں ان گلاسز کے ذریعے خواتین کی ان کی رضامندانی کے بغیر ریکارڈنگ کے واقعات بھی سامنے آئے ہیں۔
ساما ایک آؤٹ سورسنگ کمپنی ہے۔ اس کی بنیاد ایک غیر منافع بخش ادارے کے طور پر رکھی گئی تھی تاکہ ٹیکنالوجی کی ملازمتوں کے ذریعے روزگار میں اضافہ کیا جا سکے۔ تاہم یہ اب ایک ’اخلاقی اصولوں کی پابند‘کارپوریشن ہے اور یہ میٹا کے ساتھ اس کا پہلا ناخوشگوار تجربہ نہیں۔
اس سے قبل ساما کو فیسبک پوسٹس کی نگرانی سے متعلق ایک معاہدے پر نہ صرف تنقید کا سامنا کرنا پڑا تھا بلکہ کچھ سابق ملازمین نے اس کے خلاف قانونی کارروائی بھی کی تھی۔ ان میں سے بعض ملازمین کا کہنا تھا کہ انھیں انتہائی دل دہلا دینے والے مواد کا جائزہ لینا پڑا تھا۔
بعدازاں ساما نے کہا تھا کہ وہ معذرت خواہ ہے کہ اس نے یہ کام کو قبول کیا تھا۔
افریقہ ٹیک ورکرز موومنٹ کے نفتالی وامبالو اُس مقدمے میں درخواست گزار بھی ہیں۔ انھوں نے بی بی سی کو بتایا کہ انھوں نے سمارٹ گلاسز کے معاہدے میں شامل ورکرز سے بھی بات کی ہے۔
انھوں نے بی بی سی نیوز کو بتایا کہ ’میرے خیال میں جس معیار کی یہاں بات ہو رہی ہے وہ دراصل رازداری کا معیار ہے۔‘
بی بی سی نے اس نکتے پر میٹا سے جواب طلب کیا ہے۔
ماضی میں میٹا کہہ چکی ہے کہ اس نے اپنے صارفین کو انسانی مواد کے جائزے کے امکان سے آگاہ کیا تھا۔
مرسی متیمی اوور سائٹ لیب نامی تنظیم کی ایگزیکٹو ڈائریکٹر ہیں اور وہ اس معاملے میں درخواست گزاروں کی نمائندگی بھی کر رہی ہیں۔ ان کی فرم سائٹ لیب پورے افریقہ میں منصفانہ ضابطے اور ٹیکنالوجی کے استعمال کے لیے کام کرتی ہے۔
مرسی متیمی کا کہنا ہے کہ میٹا کا یہ بیان کینیا کی حکومت کو ایک انتباہ کے طور پر لینا چاہیے۔
بی بی سی سے بات کرتے ہوئے ان کا کہنا تھا کہ ’ہمیں بتایا جا رہا ہے کہ ہمارے لیے اے آئی کی صنعت میں داخل ہونے کا یہی راستہ ہے۔‘
’اپنی پوری صنعت کو اس قدر کمزور بنیاد پر کھڑا کرنا نہایت خطرناک ثابت ہو سکتا ہے۔‘
گھر کے کیمروں سے ’جنسی نوعیت‘ کی ویڈیوز: آئی پی کیمروں کو ہیکنگ سے کیسے بچایا جائے؟’وہ مجھے سویٹ ہارٹ کہتا ہے، آنکھ مارتا ہے لیکن وہ میرا بوائے فرینڈ نہیں ہے، وہ اے آئی ہے‘’میں چاہتی تھی چیٹ جی پی ٹی میری مدد کرے لیکن اس نے مجھے خودکشی کا طریقہ بتایا‘سوشل میڈیا پر نظر آنے والی جعلی اے آئی ویڈیوز کی شناخت کیسے کریں؟زیر زمین پناہ گاہیں اور بنکر: معروف ٹیکنالوجی کمپنیوں کے مالکان اور سائنسدان دنیا کو درپیش ممکنہ بڑی تباہی کی تیاری کر رہے ہیں؟ڈیپ فیک، اے آئی اور ’شخصی حقوق‘: وہ رجحان جس سے بالی وڈ کے بڑے نام بھی پریشان ہیں