কৃত্রিম বুদ্ধিমত্তা (এআই) এখন আর শুধু প্রশ্নের উত্তর দেওয়া, ই-মেইল লেখা কিংবা ছবি তৈরির মধ্যে সীমাবদ্ধ নেই। প্রযুক্তিটি ক্রমেই এমন পর্যায়ে পৌঁছাচ্ছে, যেখানে মানুষের সরাসরি হস্তক্ষেপ ছাড়াই জটিল কাজ পরিচালনা, সংবেদনশীল তথ্য বিশ্লেষণ এবং গুরুত্বপূর্ণ সিদ্ধান্ত গ্রহণ করতে পারছে। কিন্তু এআইয়ের এই অভাবনীয় অগ্রগতির আড়ালে লুকিয়ে রয়েছে এমন কিছু নিরাপত্তাঝুঁকি, যা নিয়ে উদ্বেগ বাড়ছে প্রযুক্তি বিশেষজ্ঞদের মধ্যে।
এমন পরিস্থিতিতে এআইকে অন্ধভাবে বিশ্বাস না করার সতর্কবার্তা দিয়েছেন প্রযুক্তি জায়ান্ট মাইক্রোসফটের প্রধান নির্বাহী কর্মকর্তা (সিইও) সত্য নাদেলা।
তাঁর মতে, কোনো এআই মডেল যত উন্নত কিংবা নিরাপদই মনে হোক না কেন, সেটির ওপর পুরোপুরি নির্ভর করা বিপজ্জনক হতে পারে। বিশেষ করে, প্রতিষ্ঠানের গোপন ও সংবেদনশীল তথ্য ব্যবহারের অনুমতি দিয়ে কোনো এআই এজেন্টকে স্বাধীনভাবে কাজ করতে দিলে অপ্রত্যাশিত পরিস্থিতি তৈরি হওয়ার আশঙ্কা থাকে।
সম্প্রতি সামাজিক যোগাযোগমাধ্যম এক্সে দেওয়া এক পোস্টে এআইয়ের ক্রমবর্ধমান সক্ষমতা ও সম্ভাব্য ঝুঁকি নিয়ে সতর্ক করেন নাদেলা। সেখানে তিনি অত্যাধুনিক কৃত্রিম বুদ্ধিমত্তার প্রসঙ্গে ‘সুপার ইন্টেলিজেন্স’ শব্দটি ব্যবহার করেন।
নাদেলার বক্তব্যের মূল বিষয় হলো, কোনো এআই মডেলকে শতভাগ নিরাপদ মনে করা হলেও বাস্তব পরিস্থিতিতে সেটি সব সময় প্রত্যাশিত আচরণ করবে, এমন নিশ্চয়তা নেই। একটি মডেল অসংখ্য পরীক্ষায় সফল হলেও নতুন কিংবা অপ্রত্যাশিত পরিস্থিতিতে ভুল সিদ্ধান্ত নিতে পারে। আর সেই ভুল যদি গুরুত্বপূর্ণ তথ্য, আর্থিক লেনদেন কিংবা কোনো প্রতিষ্ঠানের পরিচালনাব্যবস্থার সঙ্গে যুক্ত হয়, তাহলে তার পরিণতি গুরুতর হতে পারে।
এ কারণে এআইকে শুধু তথ্য বিশ্লেষণ ও পরামর্শ দেওয়ার কাজে ব্যবহার করাই যথেষ্ট নয়। কোন তথ্য ব্যবহারের অনুমতি থাকবে, কী ধরনের সিদ্ধান্ত নিতে পারবে এবং কোন পর্যায়ে মানুষের অনুমোদন প্রয়োজন হবে, তা আগে থেকেই নির্ধারণ করতে হবে।
এআইয়ের নিরাপত্তা যাচাই নিয়েও গুরুত্বপূর্ণ প্রশ্ন তুলেছেন মাইক্রোসফটের প্রধান নির্বাহী। তাঁর বক্তব্য অনুযায়ী, একটি এআই মডেল দিয়ে অন্য একটি মডেলের কাজ পরীক্ষা করলেই সব ভুল শনাক্ত করা সম্ভব হবে, এমন ধারণা ঠিক নয়।
কারণ, একটি মডেল অন্যটির ভুল বুঝতে ব্যর্থ হতে পারে। এমনকি একাধিক এআই মডেল একই ধরনের ভুল সিদ্ধান্তেও পৌঁছাতে পারে। ফলে কেবল এআইয়ের ওপর নির্ভর করে এআইয়ের নিরাপত্তা নিশ্চিত করার চেষ্টা নতুন ঝুঁকি তৈরি করতে পারে।
এই পরিস্থিতিতে স্বাধীন ও কার্যকর যাচাইব্যবস্থা গড়ে তোলার ওপর গুরুত্ব দিয়েছেন নাদেলা। তাঁর মতে, এআইয়ের প্রতিটি গুরুত্বপূর্ণ কার্যক্রম পর্যবেক্ষণের ব্যবস্থা থাকতে হবে। পাশাপাশি কাজের অনুমতি সীমিত রাখা এবং নির্ধারিত সীমার বাইরে কোনো পদক্ষেপ নিতে না পারার মতো প্রযুক্তিগত সুরক্ষা নিশ্চিত করতে হবে।
এ ছাড়া কোনো এআই ব্যবস্থা ব্যর্থ হলে কিংবা নিরাপত্তা বিঘ্নিত হওয়ার ঘটনা ঘটলে তা দ্রুত প্রকাশ করার প্রয়োজনীয়তার কথাও তুলে ধরেছেন তিনি। এতে অন্য প্রতিষ্ঠানগুলো সেই অভিজ্ঞতা থেকে শিক্ষা নিয়ে নিজেদের নিরাপত্তাব্যবস্থা শক্তিশালী করার সুযোগ পাবে।
বর্তমানে বিশ্বের বিভিন্ন প্রতিষ্ঠানে স্বয়ংক্রিয় এআই এজেন্টের ব্যবহার দ্রুত বাড়ছে। এসব প্রযুক্তি বিপুল পরিমাণ তথ্য বিশ্লেষণ, সফটওয়্যার পরিচালনা এবং নিয়মিত কাজ সম্পন্ন করার মাধ্যমে সময় ও শ্রম সাশ্রয় করছে। একই সঙ্গে প্রতিষ্ঠানের কাজের গতিও বাড়িয়ে দিচ্ছে।
তবে এই সুবিধার পাশাপাশি একটি গুরুত্বপূর্ণ প্রশ্ন সামনে এসেছে—মানুষের নিয়ন্ত্রণ ছাড়াই কাজ করতে সক্ষম কোনো এআই ভুল সিদ্ধান্ত নিলে তার দায় কে নেবে এবং ক্ষতি কতটা বড় হতে পারে?
বিশেষজ্ঞদের উদ্বেগের একটি বড় কারণ হলো, প্রচলিত সফটওয়্যারের তুলনায় এআইয়ের সিদ্ধান্ত গ্রহণের প্রক্রিয়া অনেক বেশি জটিল। সাধারণ সফটওয়্যারে ত্রুটি দেখা দিলে কোড পরীক্ষা করে সমস্যার উৎস শনাক্ত করা সম্ভব হয়। কিন্তু কোনো এআই মডেল কেন নির্দিষ্ট উত্তর দিল কিংবা বিশেষ কোনো পদক্ষেপ নিল, তা সব সময় সহজে ব্যাখ্যা করা যায় না।
ফলে এআইয়ের ভুল সিদ্ধান্তের কারণ খুঁজে বের করা, সম্ভাব্য ক্ষতির মাত্রা নির্ধারণ এবং ভবিষ্যতে একই ধরনের ঘটনা প্রতিরোধ করা কঠিন হয়ে উঠতে পারে।
বিশেষ করে ব্যাংকিং, স্বাস্থ্যসেবা, সরকারি তথ্যব্যবস্থা এবং গুরুত্বপূর্ণ ডিজিটাল অবকাঠামোর মতো সংবেদনশীল খাতে এআইয়ের ওপর অতিরিক্ত নির্ভরতা বড় ধরনের নিরাপত্তা সংকটের আশঙ্কা তৈরি করতে পারে। এসব ক্ষেত্রে সামান্য ভুলও ব্যাপক প্রভাব ফেলতে পারে।
এআইয়ের দ্রুত অগ্রগতি মানুষের সামনে নতুন সম্ভাবনার দরজা খুলে দিয়েছে। কিন্তু প্রযুক্তিটির সক্ষমতা যত বাড়ছে, ততই গুরুত্বপূর্ণ হয়ে উঠছে এর ওপর মানুষের কার্যকর নিয়ন্ত্রণ বজায় রাখা।
সত্য নাদেলার সতর্কবার্তার মূল তাৎপর্যও এখানেই। এআই যত শক্তিশালী হোক না কেন, তাকে নিরঙ্কুশ সিদ্ধান্ত গ্রহণের ক্ষমতা দেওয়া উচিত নয়। বরং স্বাধীন যাচাই, নিয়মিত তদারকি, সীমিত অনুমতি এবং প্রয়োজনীয় ক্ষেত্রে মানুষের সরাসরি হস্তক্ষেপ নিশ্চিত করতে হবে।
কারণ, কৃত্রিম বুদ্ধিমত্তার সবচেয়ে বড় বিপদ শুধু তার ভুল করার সম্ভাবনা নয়; বরং সেই ভুল শনাক্ত হওয়ার আগেই গুরুত্বপূর্ণ কোনো ব্যবস্থা বা প্রতিষ্ঠানের ক্ষতি হয়ে যাওয়ার আশঙ্কা।
সূত্র: ইন্ডিয়া টুডে