جنوبی ایشیائی ممالک بشمول پاکستان اور انڈیا میں چھوٹے بچوں کو نہلاتے وقت تصاویر لینا کوئی غیر معمولی بات نہیں بلکہ اکثر اس کو بچپن کی یادگار کے طور پر لیا جاتا ہے۔
تاہم یہ تصاویر گوگل پر اپ لوڈ کرنا آپ کے لیے پریشانی کا باعث بن سکتی ہے جیسا کہ انڈین ریاست گجرات سے تعلق رکھنے والے ایک انفارمیشن اینڈ کمیونیکیشن ٹیکنالوجی انجینیئر کے ساتھ ہوا۔
’گوگل کو کیا مسئلہ ہے اگر بچپن میں میری دادی مجھے نہلاتی تھیں؟ بچپن کی اس تصویر کی وجہ سے گوگل نے میرا اکاؤنٹ بلاک کر دیا ہے۔‘
یہ کہنا تھا احمدآباد کے رہائشی 26 سالہ نیل شکلا کا جنھیں اپنے بچپن کی ایک تصویر کی وجہ سے گوگل جیسی بڑی کمپنی کے خلاف گجرات ہائی کورٹ کا دروازہ کھٹکانا پڑا۔
نیل کا اکاؤنٹ اس وقت بلک کر دیا گیا جب انھوں نے اپنے بچپن کی ایک تصویر محفوظ رکھنے کی غرض سے ڈیجیٹل فارمیٹ میں اپلوڈ کی جس میں ان کی دادی انھیں غسل دے رہی ہیں۔
اس کے بعد گوگل کی طرف سے ان کو پیغام موصول ہوا ہے کہ ان کی ای میلز کا ڈیٹا بھی ڈیلیٹ کردیا جائے گا جس میں پروفیشنل، ذاتی اور تعلیمی دستاویزات، مالیاتی لین دین کی سہولت جیسے گوگل پے (UPI) وغیرہ کا ڈیٹا شامل ہے۔
نیل شکلا نے گوگل کو اپنا اکاؤنٹ ڈیلیٹ کرنے سے روکنے کے لیے گجرات ہائی کورٹ میں درخواست دائر کر دی ہے۔
اس سے قبل، وہ گجرات حکومت کے سائنس اینڈ ٹیکنالوجی ڈیپارٹمنٹ اور پولیس کے سائبر کرائم ڈیپارٹمنٹ کو تحریری شکایات جمع کروا چکے ہیں۔
Getty Imagesکڑوڑوں افراد اور ہزاروں کمپنیاں اپنے اکاؤنٹس کے ذریعے گوگل کی مختلف خدمات استعمال کرتی ہیں
اس معاملے پر جب بی بی سی نے گوگل سے رابطہ کیا تو بتایا گیا کہ کمپنی مخصوص سوالات کا جواب نہیں دے سکتی کیونکہ یہ معاملہ ہائی کورٹ میں زیر التوا ہے۔
تاہم کمپنی کا بچوں کے جنسی استحصال کے مواد (CSAM) کے متعلق گوگل کی پالیسی اور پروگرام کا حوالہ دیتے ہوئے کہنا تھا کہ کوئی بھی ایسا جنسی مواد جس میں بچوں کو دکھایا گیا ہو اسے فوری طور پر ہٹا دیا جاتا ہے اور اکاؤنٹ کو بھی ہمیشہ بند کیا جا سکتا ہے۔
یہ کیس کیوں زیر بحث ہے؟
کروڑوں افراد اور ہزاروں کمپنیاں اپنے اکاؤنٹس کے ذریعے گوگل کی مختلف خدمات استعمال کرتی ہیں۔
زیادہ تر گوگل یہ خدمات بلامعاوضہ فراہم کرتا ہے لیکن کئی افراد اور کمپنیاں کچھ خدمات کے لیے گوگل کو ادائیگی بھی کرتی ہیں۔
لیکن نیل کے والد سمیر شکلا کے نزدیک یہ صرف ایک صارف اور کمپنی کے درمیان کا معاملہ نہیں بلکہ اس سے لاکھوں افراد کی پرائیویسی کا حق بھی متاثر ہو رہا ہے۔
نیل اور ان کے اہل خانہ کے مطابق گوگل اور اس کے ملازمین آپ کی اجازت کے بغیر آپ کے نجی ڈیٹا تک رسائی حاصل کر سکتے ہیں اور وہ اس ڈیٹا کی اپنی سمجھ کے مطابق تشریح بھی کر سکتے ہیں۔
ان کا مزید کہنا تھا کہ گوگل آپ کو وضاحت پیش کرنے کا موقع دیے بغیر آپ کا اکاؤنٹ بھی ڈیلیٹ کر دیتا ہے جو آپ کو مالی نقصان کے ساتھ ساتھ ذہنی تناؤ کا بھی سبب بن سکتا ہے۔
نیل کہتے ہیں کہ انھوں نے اپنے تمام پروجیکٹس سوشل میڈیا پر اپ لوڈ کر رکھے ہیں جبکہ ان کے آن لائن کورسز کے سرٹیفکیٹ بھی ای میل پر آتے ہیں۔
’یہ سب میرے ای میل اکاؤنٹ میں موجود تھا۔ میری سٹاک مارکیٹ کی سرمایہ کاری، بینک اکاؤنٹس، کلائنٹس کے ساتھ کاروباری ای میل، سب کچھ اس ہی اکاؤنٹ سے منسلک تھا جس کو بلاک کر دیا گیا ہے۔ میرے کلائنٹس مجھے ای میل کرتے ہیں، لیکن میں وہ دیکھ نہیں سکتا۔‘
نیل نے گوگل سے 2 ٹی بی (ٹیرا بائٹس) سٹوریج بھی خریدی تھی تاکہ وہ اپنا ڈیٹا آن لائن سنبھال کر رکھ سکیں۔
ان کا کہنا تھا ’ہمارے خاندان کے پاس بہت سی تصاویر ہیں۔ میں نے انھیں ڈجیٹائز کرنے اور ایک آن لائن ڈرائیو میں محفوظ کرنے کا فیصلہ کیا۔‘
نیل کا کہنا ہے کہ ہارڈ ڈسک کے وائرس کا شکار ہونے کا خطرہ رہتا ہے اس لیے انھوں نے اپنے پاس موجود سینکڑوں تصویروں میں سے ایک تصویر جس میں ان کی دادی انھیں نہلا رہی تھیں اپ لوڈ کر دی۔
گوگل اکاؤنٹ پر تصویر اپ لوڈ کرنے کے کچھ ہی دیر بعد 11 مئی 2023 کو انھیں گوگل کی جانب سے ایک اطلاع موصول ہوئی، جس میں انھیں بتایا گیا کہ ان کا اکاؤنٹ بلاک کر دیا گیا ہے۔
گوگل کے مطابق نیل نے ان کی سروسز کی شرائط کی خلاف ورزی کی ہے۔
نیل شکلا کی جانب سے اگست 2023 میں گوگل کو بھیجے گئے قانونی نوٹس کا فی الحال کوئی جواب نہیں ملا ہے۔ منگل دو اپریل 2024 کو گجرات ہائی کورٹ میں اس کیس کی سماعت میں بھی گوگل کا کوئی وکیل موجود نہیں تھا۔
گوگل کی جانب سے نیل شکلا کو بتایا گیا تھا کہ ان کا اکاؤنٹ پانچ اپریل کو مستقل طور پر ڈیلیٹ کر دیا جائے گا، لیکن نیل کے مطابق انھیں اپنا ڈیٹا ڈاؤن لوڈ کرنے کے لیے ان کے بلاک شدہ اکاؤنٹ تک رسائی نہیں دی گئی ہے۔
تاہم گجرات ہائی کورٹ نے گوگل کو اس معاملے میں اگلے حکم تک نیل شکلا کے اکاؤنٹ کو حذف کرنے سے روک دیا ہے۔
گوگل کی CSAM پالیسی کیا ہے اور یہ کام کیسے کرتا ہے؟
بی بی سی کے نامہ نگار پارس جھا کو گوگل نے ایک ای میل میں بتایا کہ وہ اس کیس سے متعلق سوالات کے جواب نہیں دے سکتے کیونکہ یہ معاملہ ہائی کورٹ میں زیر التوا ہے۔
بچوں کے جنسی استحصال کے مواد کی روک تھام کے لیے بنائی گئی اپنی پالیسیوں اور پروگرام کے بارے میں بتاتے ہوئے گوگل کا کہنا تھا کہ وہ اپنے پلیٹ فارمز پر بچوں کے ساتھ جنسی زیادتی کے غیر قانونی مواد کی تقسیم کو روکنے کی ہر ممکن کوشش کرتے ہیں۔
’جب بھی ہمیں ایسا جنسی مواد ملتا ہے جس میں بچے شامل ہوتے ہیں، تو ہم اسے فوری طور پر ہٹا دیتے ہیں اور اکاؤنٹ کو بند کر دیتے ہیں۔‘
ان کا کہنا تھا کہ اگرچہ ہمارے پلیٹ فارم پر اپ لوڈ یا شیئر کیے گئے مواد میں CSAM مواد کی مقدار بہت کم ہے، لیکن اس کے باوجود وہ اس سلسلے میں بہت احتیاط سے کام لیتے ہیں۔
گوگل کے مطابق انھوں نے ایک مخصوص ٹیکنالوجی تیار کی ہے جو ان کے بچوں کے جنسی استحصال کے مواد کی تعریف پر پورا اترنے والے کسی بھی اپ لوڈ کردہ مواد کی فوری شناخت کر کے ڈیلیٹ کر دیتا ہے۔
گوگل ایسے مواد کی شناخت کے لیے مصنوعی ذہانت (آرٹیفیشل انٹیلیجنس) اور ہیش میچنگ ٹیکنالوجی کے امتزاج کا استعمال کرتا ہے۔
Getty Imagesگوگل بچوں کے جنسی استحصال کے مواد کی شناخت کے لیے اے آئی اور ہیش میچنگ ٹیکنالوجی کے امتزاج کا استعمال کرتا ہےمصنوعی ذہانت کے استعمال سے پیدا ہونے والے مسائل
گوگل جیسی عالمی ٹیکنالوجی کمپنیوں کی جانب سے مصنوعی ذہانت کے استعمال سے پیدا ہونے والے مسائل کے بارے میں بات کرتے ہوئے سائبر قانون کے ماہر اور سپریم کورٹ کے وکیل ڈاکٹر پون دگل کا کہنا تھا کہ جب ٹیکنالوجی انسانی معاملات کے لیے فیصلے کریں گی تو اس سے غلطیاں ہونا لازمی ہے۔
ان کے مطابق ٹیکنالوجی نے ابھی اتنی ترقی نہیں کی ہے کہ وہ ’انسانی ثقافت، جذبات اور رویے کی باریکیوں کو سمجھ سکے۔‘
ان کا کہنا ہے کہ ٹیکنالوجی تصویر میں انسان کو صرف ایک قسم کے ڈیٹا کے طور پر دیکھتی ہے اور پھر اس ڈیٹا کا موازنہ بچوں کے جنسی استحصال کے مواد کے قواعد ساتھ کرتا ہے اور اس کے حساب سے اے آئی فیصلے کرتی ہے۔
ڈاکٹر ڈگل اس واقعے کو ایک وارننگ کے طور پر دیکھتے ہیں۔
’یہ مسئلہ اس بڑے سوال کی طرف اشارہ کرتا ہے کہ آیا گوگل جیسی تنظیمیں اے آئی کا استعمال کرتے ہوئے انسانی کنٹرول برقرار رکھتی ہیں کہ نہیں کیوں کہ مصنوعی ذہانت کو مکمل چھوٹ اور خود مختاری دینا غیر منصفانہ ہے۔‘
مصنوعی ذہانت: کینسر کے مریضوں کے اس ممکنہ مستقبل کی تصاویر جو ان سے چِھن چکا ہےکیسے پتا چلایا جائے کہ تصویر کے ساتھ چھیڑ چھاڑ کی گئی ہے یا وہ مصنوعی ذہانت سے بنائی گئی ہے؟’میری بیٹی ہر دن یہ گیم کھیل کر 180 ہزار روپے نکالتی ہے‘ سچن ٹنڈولکر کو اپنی ڈیپ فیک ویڈیو پر افسوس