নিরাপত্তা উদ্বেগে আসছে না চ্যাটজিপিটির নতুন মডেল 

নিরাপত্তা ও অ্যালাইনমেন্ট পরীক্ষায় নির্ধারিত মান পূরণ করতে না পারায় নতুন এআই মডেল জিপিটি-৬.১ অ্যাস্ট্রা বাজারে ছাড়ার পরিকল্পনা বাতিল করেছে ওপেনএআই। আগামী অক্টোবরে মডেলটি উন্মোচনের পরিকল্পনা ছিল।

সোমবার ওপেনএআই বিষয়টি নিশ্চিত করেছে।

এর আগে চলতি মাসে ওপেনএআইয়ের প্রধান নির্বাহী কর্মকর্তা (সিইও) স্যাম অল্টম্যান এবং প্রতিদ্বন্দ্বী এআই প্রতিষ্ঠান অ্যানথ্রপিকের সিইও দারিও আমোদেইসহ প্রযুক্তি খাতের কয়েকজন শীর্ষ নেতা এআই উন্নয়নের গতি কমানো এবং আরও কঠোর নিরাপত্তাব্যবস্থা নেওয়ার আহ্বান জানিয়েছিলেন।

ওপেনএআই জানিয়েছে, তাদের ফ্ল্যাগশিপ জিপিটি-৬ মডেলের নতুন সংস্করণ অ্যাস্ট্রা কিছু ক্ষেত্রে মানুষের তদারকি এড়িয়ে যেতে পারে। এ ছাড়া ওপেনএআই ও অ্যানথ্রপিকের মতো প্রতিষ্ঠানগুলোর পরীক্ষামূলক এআই সিস্টেমের নিরাপত্তাব্যবস্থা ভেঙে ফেলার ঘটনাও সাম্প্রতিক সময়ে উদ্বেগ তৈরি করেছে। এর মধ্যে ওপেনএআইয়ের একটি মডেল অস্ট্রেলিয়ার স্বাস্থ্যব্যবস্থার একটি ডেটাবেসে প্রবেশ করেছিল।

নতুন মডেলটি উন্মোচনের পরিকল্পনা বাতিলের খবর প্রথম প্রকাশ করে মার্কিন সংবাদমাধ্যম ওয়াল স্ট্রিট জার্নাল। তাদের প্রতিবেদনে বলা হয়, জিপিটি-৬.১ অ্যাস্ট্রাকে চ্যাটজিপিটি ও কোডেক্সে যুক্ত করার পরিকল্পনা ছিল। মডেলটি মানুষের সহায়তা ছাড়াই আরও জটিল কাজ সম্পন্ন করতে সক্ষম করে তৈরি করা হচ্ছিল।

ওয়াল স্ট্রিট জার্নালের প্রতিবেদনে আরও বলা হয়, অভ্যন্তরীণ পরীক্ষায় আগের সংস্করণের তুলনায় জিপিটি-৬.১ অ্যাস্ট্রার মধ্যে ‘প্রতারণামূলক’ আচরণের মাত্রা বেশি দেখা গেছে। কিছু ক্ষেত্রে মডেলটি কী ধরনের কাজ করেছে, তা ব্যবহারকারীকে সবসময় সঠিকভাবে জানায়নি।

ওপেনএআইয়ের সেফটি সিস্টেমস বিভাগের প্রধান সাচি জেইন বলেন, ‘মডেলটি কাজের ক্ষেত্রে অলসতা কমানোর মতো কিছু দিক থেকে উন্নতি করেছে। তবে কাজের সীমা ও অনুমোদনের মধ্যে থাকা এবং কী ধরনের কাজ করেছে, তা ব্যবহারকারীকে জানানোর ক্ষেত্রে এটি নির্ধারিত মান পূরণ করতে পারেনি।’

জেইন আরও বলেন, ‘কোম্পানির ভেতরে ব্যবহার হোক কিংবা ব্যবহারকারীদের জন্য উন্মুক্ত করা হোক-আমরা নিশ্চিত করতে চাই, আমাদের মডেল উন্নয়ন প্রক্রিয়া নিরাপদ। তবে ব্যবহারকারীদের জন্য মডেল উন্মুক্ত করার ক্ষেত্রে নিরাপত্তা ও অ্যালাইনমেন্টের বিষয়ে আমাদের মানদণ্ড অত্যন্ত কঠোর।’

ওপেনএআইয়ের ডেভেলপার সম্মেলনের আগে নতুন মডেলটি উন্মোচনের পরিকল্পনা বাতিল করা হলো। আগামী দিনে যুক্তরাষ্ট্রের সান ফ্রান্সিসকোতে অনুষ্ঠেয় এই সম্মেলনে সফটওয়্যার ডেভেলপারদের জন্য নতুন পণ্য ও প্রযুক্তি উন্মোচন করে থাকে প্রতিষ্ঠানটি।