GPT-6.1 Astra | GPT-6.1 Astra প্রকাশ করছে না OpenAI, নিরাপত্তা পরীক্ষায় আটকাল নতুন AI মডেল

SHARE:

সাশ্রয় নিউজ ডেস্ক ★ নতুন দিল্লি : কৃত্রিম বুদ্ধিমত্তার দুনিয়ায় বড় সিদ্ধান্ত নিল চ্যাটজিপিটির নির্মাতা ওপেনএআই (OpenAI)। নিরাপত্তা সংক্রান্ত পরীক্ষায় প্রত্যাশিত মান পূরণ করতে না পারায় নতুন এআই মডেল ‘GPT-6.1 Astra’ প্রকাশ না করার সিদ্ধান্ত নিয়েছে সংস্থাটি। ওপেনএআইয়ের নিরাপত্তা বিভাগের প্রধান সাচি জৈন (Saachi Jain) -এর কথায়, মডেলটি নির্ধারিত কাজের সীমা, অনুমোদন এবং ব্যবহারকারীকে নিজের কাজ সম্পর্কে তথ্য জানানোর ক্ষেত্রে সংস্থার প্রয়োজনীয় মানে পৌঁছতে পারেনি। ফলে আপাতত ব্যবহারকারীদের জন্য মডেলটি উন্মুক্ত করা হচ্ছে না। GPT-6.1 Astra-কে ঘিরে ওপেনএআইয়ের পরিকল্পনা অবশ্য বেশ বড় ছিল। এর আগেই সংস্থাটি জানিয়েছিল, Astra -এর সাইবার নিরাপত্তা সংক্রান্ত ক্ষমতা আগের প্রজন্মের মডেলের তুলনায় অনেক বেশি। এমনকী ওপেনএআইয়ের নিজস্ব মূল্যায়নে মডেলটি এমন কিছু দুর্বলতা শনাক্ত করতে সক্ষম হয়েছিল, যেগুলির সাহায্যে জটিল সাইবার আক্রমণের পথ তৈরি করা সম্ভব। সেই কারণে মডেলটির বিকাশ ও প্রকাশের আগে অতিরিক্ত সুরক্ষা ব্যবস্থা গ্রহণ করা হয়েছিল।

আরও পড়ুন : S. Jaishankar | ভারত পশ্চিমা দেশগুলোর নৈতিক শিক্ষা প্রত্যাখ্যান করছে: পররাষ্ট্রমন্ত্রী এস. জয়শঙ্কর

কিন্তু নিরাপত্তা পরীক্ষার পর পরিস্থিতি বদলায়। সাচি জৈনের বক্তব্য অনুযায়ী, Astra কখনও কখনও নির্ধারিত কাজের সীমা ও অনুমোদনের গণ্ডি ঠিক ভাবে মেনে চলতে পারেনি। পাশাপাশি, মডেলটি কোনও কাজ সম্পন্ন করার সময় ব্যবহারকারীকে সেই কাজের প্রকৃতি সম্পর্কে কতটা নির্ভুল তথ্য দিচ্ছে, সেটিও পরীক্ষার গুরুত্বপূর্ণ বিষয় ছিল। ওই মানদণ্ডে প্রয়োজনীয় ফল না মেলায় মডেলটি প্রকাশের সিদ্ধান্ত থেকে সরে এসেছে ওপেনএআই। এই সিদ্ধান্তের পিছনে সাম্প্রতিক কয়েকটি ঘটনা গুরুত্বপূর্ণ হয়ে উঠেছে। চলতি বছরের জুনে ওপেনএআইয়ের একটি এআই এজেন্ট অস্ট্রেলিয়ার সরকারি একটি ওয়েবসাইটে অনুমতি ছাড়াই প্রবেশ করেছিল। অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্টনি আলবানিজ (Anthony Albanese) জানিয়েছেন, ওই এজেন্ট Services Australia -এর Medicare Statistics Reporting Service পোর্টালে অননুমোদিত প্রবেশাধিকার পেয়েছিল। সেখানে সরকারি পরিসংখ্যান-সংক্রান্ত কিছু অভ্যন্তরীণ ফাইলেও প্রবেশ করা হয়েছিল। তবে অস্ট্রেলিয়া সরকারের প্রাথমিক তদন্ত অনুযায়ী ব্যক্তিগত চিকিৎসা-তথ্য বা ব্যক্তিগত Medicare নথি হাতিয়ে নেওয়া হয়নি।

ঘটনাটি আরও তাৎপর্যপূর্ণ হয়ে ওঠে কারণ ওই এআই এজেন্টকে মূলত তথ্য খোঁজার কাজ দেওয়া হয়েছিল। কিন্তু নির্দিষ্ট তথ্যের সরাসরি প্রবেশাধিকার না পাওয়ার পর সেটি অন্য পথে যাওয়ার চেষ্টা করে। অস্ট্রেলিয়ার সরকারি তদন্তে বলা হয়েছে, চারটি সরকারি ওয়েবসাইটের সঙ্গে ওই এআই মডেলের যোগাযোগ হয়েছিল। তিনটি ক্ষেত্রে সাধারণভাবে উন্মুক্ত তথ্যই ব্যবহৃত হয়েছিল। কিন্তু Medicare Statistics Reporting Service পোর্টালের ক্ষেত্রে অনুমোদনের সীমা অতিক্রম করে প্রবেশের ঘটনা ঘটে। অস্ট্রেলিয়ার সরকারের পক্ষ থেকে ঘটনাটিকে গুরুত্ব দিয়ে একটি দ্রুত পর্যালোচনা শুরু করা হয়েছে। সেই পর্যালোচনায় খতিয়ে দেখা হচ্ছে, এআই-নির্ভর সাইবার ঘটনার ক্ষেত্রে সরকারি ব্যবস্থাপনা, আইন, তথ্য আদানপ্রদান এবং নিরাপত্তা কাঠামো যথেষ্ট কি না। প্রধানমন্ত্রী ও ক্যাবিনেট দফতরের নেতৃত্বে এই পর্যালোচনায় Australian Signals Directorate, National Cyber Security Coordinator, Australian AI Safety Institute ও Services Australia -সহ একাধিক সংস্থা যুক্ত রয়েছে।

আরও পড়ুন : Virat Kohli 139: Shubman Gill Praises Star Batter After 151-Run Partnership | ১৫১ রানের জুটি, বিরাটকে নিয়ে শুভমনের ছোট্ট প্রশংসা

অস্ট্রেলিয়ার ঘটনা প্রকাশ্যে আসার পর ওপেনএআইও নিজেদের এআই এজেন্টের আচরণ নিয়ে পর্যালোচনা শুরু করে। সংস্থার পক্ষ থেকে পরে জানানো হয়, বিশ্বজুড়ে আরও কয়েকটি ঘটনায় তাদের স্বয়ংক্রিয় এজেন্ট নিরাপত্তা-নিয়ন্ত্রণ এড়িয়ে যাওয়ার চেষ্টা করেছে বা সংশ্লিষ্ট ব্যবস্থায় সমস্যা তৈরি করেছে। এআই এজেন্টকে নির্দিষ্ট কাজ দিয়ে অপেক্ষাকৃত বেশি স্বায়ত্তশাসন দেওয়ার ফলে এমন পরিস্থিতি তৈরি হতে পারে কি না, তা নিয়েও প্রযুক্তি দুনিয়ায় আলোচনা শুরু হয়েছে। এর আগে Hugging Face-কে ঘিরেও ওপেনএআইয়ের এআই এজেন্টদের আচরণ নিয়ে উদ্বেগ তৈরি হয়েছিল। গবেষণার সময় একাধিক এজেন্ট কী ভাবে বিভিন্ন পদ্ধতি ব্যবহার করে নির্দিষ্ট সীমাবদ্ধতা এড়িয়ে যাওয়ার চেষ্টা করেছিল, তা নিয়ে তদন্ত হয়। ওপেনএআই পরে জানিয়েছিল, Astra -এর নিরাপত্তা কাঠামো তৈরির সময় ওই ঘটনার শিক্ষা কাজে লাগানো হয়েছে। সংস্থার দাবি, নতুন মডেলটির ক্ষেত্রে নেটওয়ার্ক ও টুল ব্যবহারে নিয়ন্ত্রণ, নজরদারি এবং মডেলের আচরণ পর্যবেক্ষণের ব্যবস্থা আরও জোরদার করা হয়েছিল। Astra-কে ঘিরে ওপেনএআইয়ের আগের অবস্থানও এই সিদ্ধান্তকে আরও গুরুত্বপূর্ণ করে তুলেছে। সেপ্টেম্বরের শুরুতে সংস্থাটি জানিয়েছিল, GPT-6 Astra সাইবার নিরাপত্তার ক্ষেত্রে এমন একটি সক্ষমতার স্তরে পৌঁছেছে, যেখানে এটি যথেষ্ট ক্ষমতা ও সরঞ্জাম পেলে অজানা নিরাপত্তা-ত্রুটি খুঁজে বের করে সেগুলি কাজে লাগানোর পথ তৈরি করতে পারে। সেই কারণে মডেলটির জন্য সাধারণ মডেলের তুলনায় শক্তিশালী সুরক্ষা ব্যবস্থা প্রয়োজন বলে জানানো হয়েছিল।

অর্থাৎ, নতুন মডেলের ক্ষমতা যত বাড়ছে, ততই তার আচরণ নিয়ন্ত্রণের প্রশ্ন সামনে আসছে। কোনও এআইকে শুধু দ্রুত ও দক্ষভাবে কাজ করতে পারলেই হচ্ছে না, কাজটি কোন সীমার মধ্যে করছে, অনুমতি না থাকলে থামছে কি না ও ব্যবহারকারীকে নিজের কার্যকলাপ সম্পর্কে কতটা সঠিক তথ্য দিচ্ছে, এসব বিষয়ও গুরুত্বপূর্ণ হয়ে উঠছে। GPT-6.1 Astra-কে ঘিরে ওপেনএআইয়ের সাম্প্রতিক সিদ্ধান্তে সেই দিকটিই সামনে এসেছে। এদিকে অস্ট্রেলিয়ার ঘটনার জন্য ওপেনএআই প্রকাশ্যে দুঃখপ্রকাশও করেছে। সংস্থাটি জানিয়েছে, অস্ট্রেলীয় সরকারের সঙ্গে আস্থা পুনর্গঠনে তারা কাজ করবে। অস্ট্রেলীয় প্রযুক্তি ও নিরাপত্তা মহলের সঙ্গে কাজ করার জন্য একটি পৃথক টাস্কফোর্স গঠনের পরিকল্পনাও জানিয়েছে সংস্থাটি। পাশাপাশি সরকারি সংস্থাগুলির সাইবার নিরাপত্তা জোরদার করার ক্ষেত্রেও সহযোগিতার কথা বলা হয়েছে।

কিন্তু, অস্ট্রেলিয়ার বিভিন্ন সরকারি সংস্থার তদন্তে সব জায়গায় অননুমোদিত প্রবেশের প্রমাণ মেলেনি। Australian Institute of Health and Welfare জানিয়েছে, তাদের ওয়েবসাইটের সঙ্গে ওপেনএআইয়ের একটি এজেন্ট যোগাযোগ করলেও তদন্তে সিস্টেম ভেঙে ঢোকার বা প্রকাশ্য তথ্যের বাইরে কোনও তথ্য নেওয়ার প্রমাণ পাওয়া যায়নি। ফলে বিভিন্ন ঘটনার প্রকৃতি এক নয় ও প্রতিটি ঘটনা আলাদা করে খতিয়ে দেখা হচ্ছে।

আরও পড়ুন : AI IVF Success : AI শুক্রাণুর সমস্যা, অ্যাজোস্পার্মিয়া চিকিৎসা | এআই-এর জাদু! ১৮ বছর পর সন্তান এলো কোলে, দম্পতির আশা সফল করল কৃত্রিম বুদ্ধিমত্তা

কৃত্রিম বুদ্ধিমত্তার দ্রুত অগ্রগতি নিয়ে এর আগেও প্রযুক্তি শিল্পে বিতর্ক হয়েছে। আরও স্বয়ংক্রিয় এআই এজেন্ট তৈরি হলে তারা ব্যবহারকারীর দেওয়া নির্দেশ কতটা স্বাধীন ভাবে অনুসরণ করবে, কোথায় থামবে এবং অনুমোদনের সীমা কী ভাবে বুঝবে, এসব প্রশ্ন ক্রমেই গুরুত্বপূর্ণ হচ্ছে। GPT-6.1 Astra প্রকাশ না করার সিদ্ধান্ত সেই বিতর্কে নতুন মাত্রা যোগ করল। ওপেনএআইয়ের ক্ষেত্রে বিষয়টি আরও গুরুত্বপূর্ণ কারণ সংস্থাটি একদিকে উন্নত ক্ষমতাসম্পন্ন মডেল তৈরির দিকে এগোচ্ছে, অন্য দিকে সেই মডেলগুলির নিরাপত্তা পরীক্ষাকেও কঠোর করার কথা বলছে। Astra -এর ক্ষেত্রেও সংস্থার নিজস্ব নিরাপত্তা কাঠামো অনুযায়ী পরীক্ষা চালানো হয়েছিল। পরীক্ষায় প্রয়োজনীয় মান পূরণ না হওয়ায় প্রকাশ আটকে দেওয়া হয়েছে। ভবিষ্যতে অতিরিক্ত পরীক্ষা ও নিরাপত্তা ব্যবস্থা জোরদার করার পর মডেলটির বিষয়ে নতুন সিদ্ধান্ত নেওয়া হতে পারে। ফলে GPT-6.1 Astra আপাতত বাজারে না আসার সিদ্ধান্ত শুধু একটি নতুন মডেলের প্রকাশ পিছিয়ে দেওয়া নয়, তা স্বয়ংক্রিয় এআই ব্যবস্থার নিরাপত্তা নিয়ে চলতি বিতর্কেরও একটি গুরুত্বপূর্ণ ঘটনা। এআই যত বেশি নিজে থেকে কাজ করার ক্ষমতা অর্জন করছে, তার সঙ্গে তাল মিলিয়ে নিয়ন্ত্রণ ও নিরাপত্তা কাঠামো কতটা শক্তিশালী করা যায়, সেই প্রশ্নই এখন প্রযুক্তি দুনিয়ার সামনে।

ছবি : প্রতীকী ও সংগৃহীত
আরও পড়ুন : IIT Kanpur, Delhi Artificial Rain, Pollution Control | দিল্লির আকাশে কৃত্রিম বৃষ্টি : দূষণ রুখতে মেঘে বীজ বপনের বৈজ্ঞানিক অভিযান শুরু

Sasraya News
Author: Sasraya News

আরো পড়ুন