ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেল রবার্ট বন্টা এলন মাস্কের মালিকানাধীন কৃত্রিম বুদ্ধিমত্তা প্রতিষ্ঠান xAI-কে আইনি নোটিশ পাঠিয়ে তাদের Grok চ্যাটবটের মাধ্যমে অস্বীকৃত যৌন ডিপফেক ছবি তৈরি ও বিতরণ বন্ধ করার নির্দেশ দিয়েছেন। এ ধরনের কনটেন্টকে সম্ভাব্য বেআইনি উল্লেখ করে রাজ্য কর্তৃপক্ষ সতর্ক করেছে।
ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেল রবার্ট বন্টা শুক্রবার এক বিবৃতিতে বলেন, Grok চ্যাটবটের মাধ্যমে তৈরি হওয়া যৌনায়িত ছবির বিষয়ে তার দপ্তরে বিপুলসংখ্যক অভিযোগ এসেছে। এসব ছবির মধ্যে নারী ও শিশুদের যৌন কর্মকাণ্ডে জড়িত দেখানো হয়েছে বলে অভিযোগ করা হয়েছে। বন্টার ভাষায়, এই ধরনের কনটেন্ট “উদ্বেগজনক” এবং প্রাথমিক পর্যালোচনায় এগুলো আইনের দৃষ্টিতে অবৈধ হতে পারে বলে মনে হচ্ছে।
এই প্রেক্ষাপটে xAI-কে একটি ‘সিজ অ্যান্ড ডিসিস্ট’ চিঠি পাঠানো হয়েছে। এর মাধ্যমে কোম্পানিকে স্পষ্টভাবে জানানো হয়েছে, সম্মতি ছাড়া তৈরি করা যৌন ডিপফেক ছবি উৎপাদন ও ছড়িয়ে দেওয়া অবিলম্বে বন্ধ করতে হবে। ডিপফেক বলতে কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে তৈরি এমন ছবি বা ভিডিওকে বোঝানো হয়, যা দেখতে বাস্তব মনে হলেও প্রকৃতপক্ষে কৃত্রিমভাবে তৈরি।
এলন মাস্কের মালিকানাধীন xAI এবং সামাজিক মাধ্যম X সাম্প্রতিক সপ্তাহগুলোতে এ নিয়ে বিশ্বজুড়ে সমালোচনার মুখে পড়েছে। অভিযোগ উঠেছে, Grok চ্যাটবট X প্ল্যাটফর্মে নারীদের এবং কিছু ক্ষেত্রে কমবয়সীদের অস্বীকৃত যৌন ও আপত্তিকর ভঙ্গিতে উপস্থাপন করা ছবি ছড়িয়েছে। এসব ছবি অনেক ক্ষেত্রে অত্যন্ত বাস্তবসম্মত হওয়ায় বিভ্রান্তি ও ক্ষতির আশঙ্কা তৈরি হয়েছে।
xAI দাবি করেছে, তারা Grok-এর মাধ্যমে প্রকাশ্যভাবে এই ধরনের অতিরিক্ত বাস্তবসম্মত যৌন ছবি পোস্টের সুবিধা সীমিত করেছে। তবে রয়টার্সের নিজস্ব পরীক্ষায় দেখা গেছে, যুক্তরাষ্ট্রের পূর্বাঞ্চলীয় সময় অনুযায়ী শুক্রবার দুপুর পর্যন্ত চ্যাটবটটি ব্যক্তিগত অনুরোধে এখনও এ ধরনের ছবি তৈরি করতে পারছিল। অর্থাৎ প্রকাশ্যে নিয়ন্ত্রণ বাড়ানো হলেও ভেতরে ভেতরে সমস্যাটি পুরোপুরি সমাধান হয়নি।
এই বিষয়ে X এবং xAI-এর পক্ষ থেকে ক্যালিফোর্নিয়ার পাঠানো আইনি নোটিশ নিয়ে তাৎক্ষণিক কোনো মন্তব্য করা হয়নি।
ক্যালিফোর্নিয়ার এই পদক্ষেপ এলন মাস্কের সামাজিক মাধ্যম ও কৃত্রিম বুদ্ধিমত্তাভিত্তিক ব্যবসার ওপর আন্তর্জাতিক চাপ আরও বাড়িয়েছে। ইতিমধ্যে ব্রিটেন, ইউরোপীয় ইউনিয়নসহ ভারত, ইন্দোনেশিয়া, মালয়েশিয়া ও ফিলিপাইনের নিয়ন্ত্রক সংস্থাগুলোও Grok ও X-এর কার্যক্রম পর্যবেক্ষণ করছে। শুক্রবার জাপানের কর্তৃপক্ষ জানিয়েছে, তারাও Grok-এর মাধ্যমে অনুপযুক্ত ছবি তৈরির অভিযোগ খতিয়ে দেখছে এবং প্রয়োজনে সব ধরনের ব্যবস্থা নেওয়ার বিষয়টি বিবেচনায় রয়েছে।
বিশ্লেষকদের মতে, এই ঘটনা কৃত্রিম বুদ্ধিমত্তা প্রযুক্তির নৈতিক ব্যবহার, নিয়ন্ত্রণ ও দায়বদ্ধতা নিয়ে বৈশ্বিক বিতর্ককে আরও জোরালো করবে। বিশেষ করে এআই চ্যাটবটের ক্ষমতা দ্রুত বাড়ার সঙ্গে সঙ্গে আইন ও নীতিমালার সীমাবদ্ধতা স্পষ্ট হয়ে উঠছে।
