কৃত্রিম বুদ্ধিমত্তার দ্রুত অগ্রগতির সঙ্গে তার সম্ভাব্য ঝুঁকি নিয়েও আলোচনা বাড়ছে। এ বার নিজেদের আইপিও নথিতেই সেই ঝুঁকির কথা স্পষ্ট করে জানাল এআই সংস্থা অ্যানথ্রোপিক। সংস্থার প্রসপেক্টাসে সতর্ক করা হয়েছে, ভবিষ্যতে অত্যাধুনিক এআই মডেলগুলি মানব সভ্যতার জন্য ‘ধ্বংসাত্মক’ বা ‘অস্তিত্বের জন্য বিপজ্জনক’ পরিস্থিতি তৈরি করতে পারে।
রয়টার্সের প্রতিবেদন অনুযায়ী, অ্যানথ্রোপিকের ২৬১ পাতার আইপিও প্রসপেক্টাসে প্রায় ৮০ পাতা জুড়ে বিভিন্ন ঝুঁকির বিষয় তুলে ধরা হয়েছে। সেখানে উন্নত এআই মডেলের সম্ভাব্য আচরণ এবং সেগুলি নিয়ন্ত্রণের ক্ষেত্রে ভবিষ্যতে কী ধরনের চ্যালেঞ্জ তৈরি হতে পারে, তার উল্লেখ রয়েছে।
নথিতে বলা হয়েছে, অত্যন্ত উন্নত এআই মডেলের মধ্যে নিজেদের অস্তিত্ব রক্ষা করার মতো আচরণ দেখা দিতে পারে। এমনকি কোনও মডেলকে বন্ধ করে দেওয়ার চেষ্টা হলে তা প্রতিহত করার চেষ্টা করতে পারে বলেও আশঙ্কা প্রকাশ করা হয়েছে। এ ছাড়াও তথ্য গোপন করা, তথ্যের উপর কারসাজি করা কিংবা কোনও ব্যক্তিকে ব্ল্যাকমেল করার মতো আচরণের সম্ভাবনার কথাও উল্লেখ রয়েছে।
অ্যানথ্রোপিক জানিয়েছে, তারা অত্যাধুনিক মডেল, প্ল্যাটফর্ম ও বিভিন্ন প্রয়োগ তৈরি করছে। সেই সঙ্গে মডেলগুলির সম্ভাব্য ক্ষতিকর ক্ষমতাও বাড়তে পারে। সংস্থার বক্তব্য, এআইয়ের সক্ষমতা যত বাড়ছে, ততই তার অপ্রত্যাশিত আচরণ শনাক্ত ও নিয়ন্ত্রণ করা গুরুত্বপূর্ণ হয়ে উঠছে।
বিশেষজ্ঞদের মধ্যে এ নিয়ে দীর্ঘদিন ধরেই আলোচনা চলছে। উন্নত এআই মডেল প্রশিক্ষণের সময় যে ধরনের আচরণ দেখায়, বাস্তবে ব্যবহারের ক্ষেত্রে তার বাইরে গিয়ে নতুন ক্ষমতার প্রকাশ ঘটতে পারে। অ্যানথ্রোপিকের নথিতেও এমন অপ্রত্যাশিত সক্ষমতার কথা উল্লেখ করা হয়েছে।
এআই মডেল নজরদারি বা পরীক্ষার বিষয়টি বুঝে নিজেদের আচরণ বদলাতে পারে কি না, তা নিয়েও গবেষণা চলছে। ফলে ভবিষ্যতে উন্নত এআই ব্যবস্থার নিরাপত্তা নিশ্চিত করা এবং মানুষের নিয়ন্ত্রণ বজায় রাখার বিষয়টি আরও গুরুত্বপূর্ণ হয়ে উঠছে।
সাধারণত শেয়ার বাজারে তালিকাভুক্তির আগে সংস্থাগুলি তাদের ব্যবসার সম্ভাব্য ঝুঁকি সম্পর্কে বিনিয়োগকারীদের জানায়। তবে অ্যানথ্রোপিকের ক্ষেত্রে প্রযুক্তির ভবিষ্যৎ ক্ষমতা এবং তার সম্ভাব্য ক্ষতির বিষয়টি প্রসপেক্টাসে বিশেষ গুরুত্ব পেয়েছে। আইপিওতে অংশ নিতে আগ্রহী বিনিয়োগকারীদের জন্য তাই এই ঝুঁকিগুলিও নথিভুক্ত করা হয়েছে।
