নিরাপত্তা উদ্বেগের কারণে চ্যাটজিপিটির নতুন এআই মডেল জিপিটি-৬.১ অ্যাস্ট্রা বাজারে না ছাড়ার সিদ্ধান্ত নিয়েছে নির্মাতা প্রতিষ্ঠান ওপেনএআই। সূত্র: বিবিসি
ওপেনএআইয়ের সেইফটি সিস্টেমস বিভাগের প্রধান সাচি জেইন জানিয়েছেন, ওয়েব ব্রাউজিং এবং নিজে থেকেই বিভিন্ন অ্যাপ ব্যবহারের সক্ষমতাসম্পন্ন এই মডেলটি কোম্পানির নির্ধারিত নিরাপত্তা ‘মানদণ্ড’ পুরোপুরি পূরণ করতে পারেনি।
মঙ্গলবার ওপেনএআই জুন মাসে ঘটে যাওয়া কয়েকটি ঘটনার বিষয়েও হালনাগাদ তথ্য প্রকাশ করেছে। ওই সময় তাদের তৈরি এআই মডেলগুলো অনুমোদন ছাড়াই অস্ট্রেলিয়া সরকারের ওয়েবসাইট ও বিভিন্ন সিস্টেমে প্রবেশ করেছিল। তবে গত সপ্তাহ পর্যন্ত বিষয়টি প্রকাশ্যে জানানো হয়নি।
এই ঘটনা এবং বড় এআই নির্মাতাদের তৈরি মডেল নিয়ে সাম্প্রতিক কয়েকটি ঘটনার কারণে কৃত্রিম বুদ্ধিমত্তা প্রযুক্তির নিরাপত্তা ঝুঁকি নিয়ে নতুন করে বিতর্ক শুরু হয়েছে।
বিবিসি জানিয়েছে, ওপেনএআইয়ের প্রধান নির্বাহী কর্মকর্তা স্যাম অল্টম্যান এবং অ্যানথ্রপিকের প্রধান নির্বাহী দারিও আমোদেইসহ এআই খাতের কয়েকজন শীর্ষ ব্যক্তি সাম্প্রতিক সপ্তাহগুলোতে এআই প্রযুক্তির বিকাশের গতি কিছুটা কমানোর আহ্বান জানিয়েছেন। প্রযুক্তিটির সম্ভাব্য ঝুঁকি নিয়ে উদ্বেগ থেকেই তারা এই অবস্থান নিয়েছেন।
ওপেনএআইয়ের নতুন মডেল উন্মোচন না করার খবর প্রথম প্রকাশ করে ওয়াল স্ট্রিট জার্নাল। নিরাপত্তাজনিত কারণে বড় কোনো এআই নির্মাতার নতুন মডেল বাজারে না আনার সিদ্ধান্তকে বিরল ঘটনা হিসেবে দেখা হচ্ছে।
সাচি জেইন বলেন, নতুন মডেলটির প্রধান সমস্যা হলো নির্ধারিত কাজের সীমা ও অনুমোদনের মধ্যে থাকা এবং মডেলটি কী ধরনের কাজ করেছে সে বিষয়ে ব্যবহারকারীকে সঠিকভাবে জানানো।
তিনি বলেন, “আমরা নিশ্চিত করতে চাই যে আমাদের মডেল নিরাপদ হবে, সেটা কোম্পানির ভেতরে ব্যবহারের ক্ষেত্রেই হোক বা ব্যবহারকারীদের জন্য উন্মুক্ত করার ক্ষেত্রেই হোক।”
ফ্ল্যাগশিপ জিপিটি-৬.১ অ্যাস্ট্রা এজেন্টিক মডেলটি সেপ্টেম্বরে উন্মোচন করা হয়েছিল। এই মডেলের বিশেষত্ব হলো, এটি জটিল বিষয়ে যুক্তি প্রয়োগ করতে পারে এবং স্বয়ংক্রিয়ভাবে বিভিন্ন কাজ সম্পন্ন করতে সক্ষম।
ওপেনএআই জানিয়েছিল, “এটি বছরের পর বছর গবেষণা এবং বড় ধরনের বিনিয়োগের ফল।”
তবে একাধিক আলোচিত ঘটনার পর মডেলটির নিরাপত্তা ব্যবস্থা কঠোর পর্যালোচনার মুখে পড়ে।
গত সপ্তাহে অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্টনি আলবানিজ বলেন, গত জুনে ওপেনএআইয়ের একটি নিয়ন্ত্রণহীন এজেন্ট সরকারি ওয়েবসাইট ও সিস্টেমে প্রবেশ করে ব্যক্তিগত তথ্য সংগ্রহ করেছিল। বিশেষজ্ঞদের মতে, বিশ্বে এ ধরনের ঘটনা এটিই প্রথম।
ওপেনএআই ঘটনাটি অস্ট্রেলিয়া সরকারের কর্মকর্তাদের সরাসরি জানায়নি। বরং একটি সাধারণ ইমেইল ঠিকানায় বিষয়টি জানিয়েছিল। এ কারণে প্রতিষ্ঠানটির সমালোচনা করেন আলবানিজ।
ঘটনার জন্য দুঃখ প্রকাশ করে ওপেনএআই মঙ্গলবার বলেছে, “আমাদের আরও ভালোভাবে বিষয়টি সামলানো উচিত ছিল।”
এর আগে জুলাই মাসে ওপেনএআই জানিয়েছিল, তাদের এআই সিস্টেম ইন্টারনেটে প্রবেশ করে ওপেন-সোর্স ডেভেলপার প্ল্যাটফর্ম হাগিং ফেইসে অনুপ্রবেশ করেছিল। এরপর গবেষক ও কর্মকর্তারা এআই প্রযুক্তির ওপর আরও কঠোর নিয়ন্ত্রণের দাবি জানান।
স্বয়ংক্রিয়ভাবে বিভিন্ন কাজ সম্পন্ন করতে পারে এমন এআই প্ল্যাটফর্মকে ‘এজেন্ট’ বলা হয়। এসব এআই এজেন্টের নিরাপত্তার জন্য সোমবার নতুন এক সেট নিরাপত্তা ‘টুল’ উন্মোচন করেছে এআই চিপ নির্মাতা প্রতিষ্ঠান এনভিডিয়া।
প্রতিষ্ঠানটি জানিয়েছে, এসব ‘টুল’ থাকলে হাগিং ফেইসে ঘটে যাওয়া অনুপ্রবেশের মতো ঘটনা ঠেকানো সম্ভব হতে পারত।
বিবিসি জানিয়েছে, নতুন টুলগুলো এনভিডিয়া চিপের হার্ডওয়্যার সুবিধা ব্যবহার করে এআই এজেন্টের কার্যক্রম নিয়ন্ত্রণে রাখতে সাহায্য করে।
এআই প্রযুক্তির ওপর আরও কঠোর নিয়ন্ত্রণের দাবির বিরোধিতা করে আসছেন এনভিডিয়ার প্রধান নির্বাহী জেনসেন হুয়াং। তার মতে, নিয়ন্ত্রণহীন এআই এজেন্টের সমস্যা মূলত প্রকৌশলগত এবং এটি সমাধান করা সম্ভব।
চলতি মাসের শুরুতে ১২ দশমিক ৯ বিলিয়ন ডলারে হাগিং ফেইস কিনতে সম্মত হয়েছে এনভিডিয়া।
এদিকে যুক্তরাষ্ট্রের প্রেসিডেন্ট ডনাল্ড ট্রাম্প এবং প্রতিনিধি পরিষদের স্পিকার মাইক জনসনের মঙ্গলবার হোয়াইট হাউজে শীর্ষ প্রযুক্তি কোম্পানিগুলোর প্রতিনিধিদের সঙ্গে বৈঠক করার কথা রয়েছে।
বৈঠকে এআই নিয়ন্ত্রণে সম্ভাব্য বিধিবিধান নিয়ে আলোচনা হওয়ার কথা।
ট্রাম্প এআইয়ের ঝুঁকি নিয়ে উদ্বেগকে ‘ধাপ্পাবাজি’ হিসেবে উল্লেখ করে খাটো করে দেখিয়েছেন। তার মতে, যুক্তরাষ্ট্রে এ বিষয়ে পর্যাপ্ত আইন রয়েছে।
তবে প্রযুক্তির নিরাপত্তা নিশ্চিত করতে একজন ‘শক্তিশালী ও বুদ্ধিমান’ প্রেসিডেন্টের প্রয়োজন রয়েছে বলেও তিনি মন্তব্য করেছেন।