مصنوعی ذہانت سے امتیازی سلوک کا خطرہ!!!
شیئر کریں
٭اے آئی بہت سی چیزوں کو آسان بنا دیتی ہے، بدقسمتی سے امتیازی سلوک بھی، اسے بھیانک خواب بننے سے روکنے کے لیے واضح اصولوں کی ضرورت ہے، ماہرین
٭ایک ماہرانہ رپورٹ میں مصنوعی ذہانت پر مبنی نظام کو ایک "بلیک باکس”کے طور پر بیان کیا گیا ہے، متاثرہ افراد کے لیے اپنی ناکامی کی وجوہات کا پتہ لگانا ممکن نہیں
۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔
اے آئی سے متعلق ماہرین کی ایک رپورٹ میں مصنوعی ذہانت پر مبنی نظام کو ایک "بلیک باکس”کے طور پر بیان کیا گیا ہے۔ جرمن حکام کا کہنا ہے اے آئی کو ایک بھیانک خواب بننے سے روکنے کے لیے واضح اور قابل فہم اصولوں کی ضرورت ہے۔اے آئی بہت سی چیزوں کو آسان بنا دیتی ہے۔ بدقسمتی سے امتیازی سلوک بھی”یہ تبصرہ جرمن حکومت کی طرف سے امتیازی سلوک کے خاتمے کے لیے مقرر کی گئی خود مختار کمشنر فردا اتمان نے برلن میں ایک پریس کانفرنس میں کیا۔اتمان نے اس موقع پر خودکارالگورتھم کے فیصلہ سازی (ADM) پر مبنی سسٹمز کے ذریعے لوگوں کو ممکنہ امتیازی سلوک سے تحفظ فراہم کرنے سے متعلق ایک ماہرانہ رپورٹ بھی پیش کی۔ اس رپورٹ میں اے ڈی ایم کے مصنوعی ذہانت میں استعمال کی بہت سی مثالوں کا حوالہ دیا گیا ہے۔ ان میں درخواست کے طریقہ کار، بینکوں، انشورنس کمپنیوں سے قرضے، یا سماجی بہبود جیسے ریاستی فوائد کی تقسیم وغیرہ شامل ہے۔امتیازی سلوک کے انسداد کی کمشنر کا کہنا تھا، "یہاں امکانی بیانات گروہی خصوصیات کی بنیاد پر ترتیب دیے جاتے ہیں۔ جو چیز پہلی نظر میں معروضی دکھائی دیتی ہے وہ تعصبات اور دقیانوسی تصورات کو ہوا دے سکتی ہے۔ کسی بھی حالت میں ہمیں ڈیجیٹل امتیاز کے خطرات کو کم نہیں سمجھنا چاہیے ”۔
2019 ء میں نیدرلینڈز میں 20,000 سے زیادہ لوگوں نے تجربہ کیا کہ کبھی غلط نہ ہو سکنے کے مفروضے پر قائم ٹیکنالوجی کے استعمال سے کیا ہو سکتا ہے۔ اس دوران انہیں بھاری جرمانے کے خطرے کے تحت بچوں کے فوائد واپس کرنے کا غلط حکم دیا گیا۔ اس حوالے سے بنائے گئے سافٹ وئیر میں ایک امتیازی الگورتھم جزوی طور پر اس صورتحال کا ذمہ دار تھا اور دوہری شہریت رکھنے والے لوگ خاص طور پر اس سے متاثر ہوئے۔اس طرح کے معاملات کو روکنے کے لیے اتمان کا مطالبہ ہے کہ کمپنیاں شفاف طریقے سے کام کریں۔ دوسرے لفظوں میں وہ اے آئی کا استعمال کرنے والی کمپنیوں کا ڈیٹا اوران کے سسٹم کے کام کرنے کے طریقہ کار سے متعلق معلومات کی فراہمی چاہتی ہیں۔قانونی اسکالر اندرا اسپیکر اور ان کے ساتھی ایمانوئل وی ٹوفگ کی جانب سے اے آئی پر لکھی گئی اس ماہرانہ رپورٹ میں مصنوعی ذہانت
پر مبنی نظام کو ایک "بلیک باکس” کے طور پر بیان کیا گیا ہے۔ اس نظام سے متاثرہ افراد کے لیے اپنی ناکامی کی وجوہات کا پتہ لگانا عملی طور پر ناممکن ہے۔رپورٹ میں کہا گیا ہے، ”ADM کے استعمال کا ایک خاص رجحان یہ ہے کہ امتیازی سلوک کی صلاحیت پہلے سے ہی ان کے سسٹم میں موجود ہو سکتی ہے۔ اس کی وجہ ایک ڈیٹا سیٹ ہو سکتا ہے، جو ناقص، مطلوبہ مقصد کے لیے غیر موزوں، یا مسخ شدہ ہو۔اس کا کیا مطلب ہے رپورٹ میں عام مثالوں کے ساتھ واضح کیا گیا ہے کہ "پوسٹل کوڈ، جو اپنے آپ میں تو امتیازی نہیں ہے لیکن وہ امتیازی خصوصیت کا ایک ذریعہ بن جاتا ہے۔ مثال کے طور پر چند تاریخی وجوہات کی بنا پر بہت سے تارکین وطن ایک مخصوص سٹی ڈسٹرکٹ میں رہتے ہیں۔اس کے وہاں رہنے والے لوگوں کے لیے منفی نتائج ہو سکتے ہیں۔ مثال کے طور پر اگر وہ قرضوں کے لیے درخواست دیتے ہیں تو انہیں ایک مالیاتی خطرے کے طور پر دیکھا جا سکتا ہے کہ جو ہو سکتا ہے اپنے قرضوں کی ادائیگی نہ کر سکیں۔ ماہرین اس کو "اعداد و شمار کے ذریعے امتیاز” کہتے ہیں۔یہ شماریاتی ذرائع سے حاصل کردہ خصوصیات کو کسی گروپ کی اصل یا فرض شدہ اوسط قدروں کی بنیاد پر ان سے منسوب کرنے کی مشق ہے۔اسی نوعیت کے مسائل کے حل کے لیے فردا اتمان اپنی ایجنسی میں ایک مفاہمت کا دفتر قائم کرنا چاہتی ہیں اور یہ مطالبہ بھی کر رہی ہیں کہ عام مساوی سلوک ایکٹ (AGG) کو لازمی مفاہمت کے طریقہ کار کے ذریعے پورا کیا جائے۔اس رپورٹ سے اتمان کا اخذ کردہ نتیجہ سادہ ہے۔ڈیجیٹائزیشن مستقبل ہے۔ لیکن یہ ایک ڈراؤنا خواب نہیں بننا چاہیے۔ لوگوں کو اس بات پر بھروسہ کرنے کے قابل ہونا چاہیے کہ اے آئی کے ذریعے ان کے ساتھ امتیازی سلوک نہیں کیا جائے گا۔” اور یہ کہ اگر ایسا ہوتا ہے تو وہ اپنا دفاع کر سکتے ہیں۔ اس لیے اتمان کا مطالبہ ہے کہ اس حوالے سے واضح اور قابل فہم اصولوں کی ضرورت ہے۔
٭٭٭
۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔۔
