কীভাবে কৃত্রিম বুদ্ধিমত্তা ক্ষতিগ্রস্থ হতে পারে এবং কীভাবে এর প্রস্তুতি নিতে পারে

শেষ পর্যন্ত কৃত্রিম বুদ্ধিমত্তা সফ্টওয়্যারটি এখনও সফ্টওয়্যার - এবং সফ্টওয়্যারটির ক্ষতি হতে পারে। যদিও আমরা সিরি বা আলেক্সা এইচএল 9000 বা স্কাইনেট হয়ে ওঠার বাস্তব ঝুঁকিতে নেই, এআই সিস্টেমগুলির অনিবার্য অপব্যবহার বা ত্রুটিগুলি এমন একটি সম্ভাবনা যা ব্যক্তি এবং সংস্থাগুলির জন্য প্রস্তুত হতে হবে।

দুর্বৃত্ত এআইয়ের প্রস্তুতির প্রথম পদক্ষেপটি বুঝতে পারে যে কৃত্রিম বুদ্ধিমত্তার সিস্টেমগুলি কীভাবে প্রথম স্থানে ক্ষতিগ্রস্থ হতে পারে। লুইসভিলে বিশ্ববিদ্যালয়ের গবেষক রোমান ইয়াম্পলস্কি বিপজ্জনক এআইয়ের আটটি অনন্য পথ চিহ্নিত করেছেন, যা নীচে বিস্তারিত রয়েছে। ক্ষতিকারক কৃত্রিম বুদ্ধিমত্তার ঝুঁকি হ্রাস করার পদ্ধতিগুলি পরে আলোচনা করা হয়।

কৃত্রিম বুদ্ধি কীভাবে বিকশিত হয়

"কৃত্রিম বুদ্ধিমত্তা" এমন একটি শব্দ যা অনেক প্রতিযোগিতামূলক সংজ্ঞা সহ হয় (বিশেষত যখন বিপণনকারীরা ব্যবহার করেন) তবে এআই এর একটি সাধারণভাবে গৃহীত বিবরণ এমন একটি সফ্টওয়্যার যা মানব প্রোগ্রামাররা সরাসরি এটি পর্যবেক্ষণ না করে নিজেকে বদলে দেয়। এআই সফ্টওয়্যার উদ্দীপনার প্রতিক্রিয়া হিসাবে বিকশিত হয়, ফলস্বরূপ একটি নতুন সিস্টেম তৈরি হয়েছিল যা মানুষের দ্বারা সরাসরি কোড করা হয়নি।

কাটিং এজ এআই দুটি কারণের একটি পণ্য: একটি মানব-লিখিত কোর অ্যালগরিদম এবং প্রশিক্ষণ ডেটা যা প্রকাশ করে যে কীভাবে সেই অ্যালগরিদম তার কার্যকারিতা উন্নত করতে বা সামঞ্জস্য করতে পরিবর্তিত হয়। উদাহরণস্বরূপ, একটি এআই সমাধান যা অনলাইন ফটোগুলিতে মুখগুলি সনাক্ত করে তা হ'ল মূল চিত্রের স্বীকৃতি অ্যালগরিদম এবং বিভিন্ন চিত্রের চিত্রগুলির অ্যালগরিদম কীভাবে অন্যান্য চিত্রের ডেটা থেকে মানুষের মুখের পার্থক্য করতে শিখতে ব্যবহার করে তা উভয়েরই পণ্য।

প্রশিক্ষণের ডেটা ভালভাবে টীকায়িত করা হয় এবং মোতায়েনের আগে একটি নিয়ন্ত্রিত পরিবেশে সরবরাহ করা হয়। এটি ভান করে যে কীভাবে মুক্তির পরে এবং সাধারণ ব্যবহারে এআই কার্যকর করা হয়।

পোস্ট-ডিপ্লোয়মেন্ট, তবে, এআই সমাধানগুলি "রিয়েল ওয়ার্ল্ড" থেকে প্রাপ্ত ডেটার সাথে মোকাবিলা করা হয়, যা গ্রাহক তথ্য পরিষেবাদির কার্যকারিতা অবহিত করতে এবং উন্নত করতে ব্যবহার করা যেতে পারে। এর অর্থ হ'ল এআই-এর একই প্রাক-প্রকাশ সংস্করণটির একাধিক অনুলিপি তারা ব্যবহার করে এমন বিভিন্ন ব্যবহারকারী এবং সংস্থার সাথে খাপ খাইয়ে দেওয়ার ফলে একেবারে আলাদা হয়ে যাবে।

সহজ কথায়, কিছু কৃত্রিম বুদ্ধিমত্তার সমাধানগুলি তাদের বিকাশকারীদের দ্বারা "খারাপ জন্মগ্রহণ" হয়, অন্যরা তাদের প্রাকৃতিক বৃদ্ধির কারণে বিপজ্জনক হয়ে ওঠে। এই দুর্নীতিটি ইন্দ্রিয়গতভাবে বা দুর্ঘটনাক্রমে, পরিবেশগত কারণগুলির ফলাফল হিসাবে প্রকাশের আগে বা পরে বা এআই এর নিজস্ব বক্ররের যৌক্তিক উপসংহার হিসাবে ঘটতে পারে। প্রতিটি পরিস্থিতিতে এক ধরণের দূষিত কৃত্রিম বুদ্ধিমত্তার দিকে পরিচালিত করে।

"খারাপ" এআই এর সংজ্ঞা

ক্ষতিকারক সফ্টওয়্যার - প্রায়শই ম্যালওয়্যার হিসাবে পরিচিত - এমন একটি সফ্টওয়্যার যা কম্পিউটার সিস্টেম, ব্যবহারকারী বা উভয়কেই ক্ষতি করার জন্য নকশাকৃত। Traditionalতিহ্যবাহী ম্যালওয়্যার থেকে দূষিত এআই-কে কী আলাদা করে তা হ'ল এআই বিকাশকারীর সম্মতি বা অভিপ্রায় ছাড়াই দূষিত হতে পারে। এআই একটি উপায়ে নিজেকে ডিজাইন করে, সুতরাং একটি এআই যা বর্তমানে দূষিত। এটি প্রাথমিকভাবে সেভাবে ডিজাইন করা হয়নি এবং এআই দূষিত না হওয়ার জন্য ডিজাইন করা হয়েছে তাকে উদার বা দানশীল হতে দেওয়া উচিত নয়।

উপরে উল্লিখিত হিসাবে, এআই একটি বিবর্তিত সফ্টওয়্যার যা সময়ের সাথে সাথে নিজেকে নতুন করে লিখতে পারে, সম্ভবত নতুন ফাংশন বা লক্ষ্য নিয়ে। যেমন, যে কোনও এআই সম্ভাব্য দূষিত, কেবল তার বিকাশকারী বা ব্যবহারকারীরা এআই ক্ষতি করেই নয়, কারণ এআই এর সিস্টেমটি নিজেই ক্ষতিকারক আচরণ বিকাশ করতে পারে।

এআই ম্যালওয়ারের সম্ভাব্য রুট

মন্দ ডিজাইন এআই

ইয়াম্পলস্কি টাইপ একটি কৃত্রিম বুদ্ধিমত্তা হ'ল দূষিত এআই-এর সবচেয়ে সম্ভবত এবং সবচেয়ে বিপজ্জনক প্রকার - কৃত্রিম গোয়েন্দা যা উদ্দেশ্যমূলকভাবে ক্ষতির কারণ হিসাবে তৈরি করা হয়েছে। টাইপ এ দূষিত কৃত্রিম বুদ্ধিমত্তার স্থাপনার আগে ইচ্ছাকৃতভাবে দূষিত করা হয়। যদিও এটি সম্ভব যে এআই দুর্ঘটনাক্রমে বিপজ্জনক বা ক্ষতিকারক হয়ে উঠতে পারে, এটি নিশ্চিত যে কারও কাছে ইতিমধ্যে একটি এআই সিস্টেম রয়েছে যা ইচ্ছাকৃতভাবে কাউকে বা কোনও কিছুর ক্ষতি করার জন্য ডিজাইন করা হয়েছিল।

বেশ কয়েকটি সামরিক কর্মকর্তা খোলামেলাভাবে এআই-নিয়ন্ত্রিত স্বয়ংক্রিয় অস্ত্র সিস্টেমগুলিতে কাজ করছেন। বেশ কয়েকটি গোয়েন্দা সংস্থা এআইকে আরও ভাল সাইবার অস্ত্র ও নজরদারি সরঞ্জাম তৈরিতে ব্যবহার করছে। অপরাধমূলক সংস্থাগুলি প্রায় নিশ্চিতভাবেই তাদের ফিশিং আক্রমণগুলিকে টানানোর জন্য এআই ব্যবহার করছে - উদাহরণস্বরূপ, ইমেল বা ফেসবুক ম্যাসেঞ্জারের মাধ্যমে সক্ষম স্প্যানিশ বন্দীদের কেলেঙ্কারী চালানোর জন্য চ্যাটবটগুলির একটি দল right

Traditionalতিহ্যবাহী ম্যালওয়্যার যাই করুক না কেন, এআই ম্যালওয়ারকে আরও ভাল করতে সহায়তা করতে পারে। কৃত্রিম বুদ্ধিমত্তা নিজেকে ম্যালওয়্যারকে আরও কার্যকর করে তুলতে পারে এবং সনাক্তকরণ এড়ানোর জন্য এআই ম্যালওয়ারকেও উন্নত করতে পারে। যখন এআই টিউরিং পরীক্ষায় উত্তীর্ণ হয়েছে, অর্থাৎ আপনি যখন কোনও ব্যক্তি বা চ্যাটবোটের সাথে কথা বলছেন তখন আপনি সহজেই বলতে পারবেন না, সোস্যাল ইঞ্জিনিয়ারিংয়ের আক্রমণগুলির সম্পূর্ণ নতুন গামুট সম্ভব।

একটি এআই চিট যে কোনও প্রচলিত হাকস্টারের চেয়ে বেশি বিপজ্জনক কারণ এআই কন কন শিল্পী প্রায় অনির্দিষ্টকালের জন্য ব্যবহার করা যেতে পারে।

এভিল এআই এর জন্য পুনঃপ্রবিযুক্ত

একটি প্রকার বি কৃত্রিম বুদ্ধিমত্তা য্যাম্পলস্কি একটি বৈধ উদ্দেশ্য জন্য বিকাশ করেছেন, তবে পুনঃনির্দেশিত বা হ্যাক না করে - দূষিত উদ্দেশ্যে পুনঃনির্দেশিত। টাইপ বি এআইগুলি উদ্দেশ্য হিসাবে দূষিত হিসাবে শ্রেণীবদ্ধ করা হয় তবে কেবল স্থাপনার পরে এবং সাধারণত সরাসরি কোড পরিবর্তন ছাড়াই।

উদাহরণস্বরূপ, একটি এআই চিত্র বিশ্লেষণ সিস্টেম নিন, যা ইঞ্জিনিয়ারদের কেবল রাস্তার traditionalতিহ্যবাহী ছবি তুলে ব্রিজ এবং ফ্রিওয়ে ওভারপাসগুলিতে কাঠামোগত ত্রুটিগুলি সনাক্ত করতে সক্ষম করে। যখন উদ্দেশ্য হিসাবে ব্যবহার করা হয়, তখন এই এআই সমাধানটি ধসের ঝুঁকিতে প্রয়োজনীয় সংস্থানগুলি রাস্তা এবং সেতুগুলিতে পরিচালিত করে জীবন বাঁচায়। তবে, কোনও সন্ত্রাসী গোষ্ঠীর একই এআই থাকলে তারা এগুলি বোমাতে ব্যবহার করতে পারে যেখানে তারা সবচেয়ে বেশি ক্ষতি করতে পারে।

একইভাবে, অনেকগুলি বিদ্যুত সংস্থাগুলি অভ্যন্তরীণ শীতাতপনিয়ন্ত্রণের জন্য যে চাহিদা ব্যবহার হ্রাস করে তা নিয়ন্ত্রণ করার জন্য একটি এআইয়ের একটি ব্যবস্থা থাকতে পারে। সিস্টেমটি গ্রাহককে হ্রাস করার জন্য ডিজাইন করা যেতে পারে এবং এখনও নিশ্চিত করা যায় যে কোনও বাড়ি বা ব্যবসায়ের লোকদের নিরাপত্তা এবং স্বাচ্ছন্দ্য নিশ্চিত করার জন্য প্রয়োজনীয় শীতাতপনিয়ন্ত্রণের অভাব রয়েছে। রক্ষণাবেক্ষণ বনাম স্বাচ্ছন্দ্যের জন্য আপেক্ষিক ওজন এআই অ্যাপ্লিকেশনটির একটি সেটিংস স্ক্রিনে দেখানো হবে, একজন মানব অপারেটর সেট করেছেন preferences যদি সেই কর্মচারী "ছদ্মবেশী" হয়ে ওঠে এবং এআই এনার্জি সঞ্চয়টি সর্বাধিক ব্যয় করে সর্বাধিক ব্যয় করে, তীব্র উত্তাপের তরঙ্গেও শীতাতপ নিয়ন্ত্রণ ব্যবস্থা বন্ধ করে দেওয়া হত, সম্ভাব্যভাবে চিকিত্সাগতভাবে দুর্বলকে ঝুঁকিতে ফেলেছে।

এই উদাহরণগুলিতে, কৃত্রিম বুদ্ধিমত্তার আচরণ বা অন্তর্নিহিত কোড দুটিই বদলানো হয়নি, এআই শুধুমাত্র দূষিত বা বিপজ্জনক উদ্দেশ্যে মানব ব্যবহারকারীদের দ্বারা পুনঃনির্দেশিত হয়েছিল।

খারাপভাবে ডিজাইন করা এআই

ইয়াম্পলস্কির টাইপ সি আর্টিফিশিয়াল ইন্টেলিজেন্স সহজভাবে দুর্বলভাবে ডিজাইন করা হয়েছে, সুতরাং এর "সঠিক" পারফরম্যান্স দুর্ঘটনাক্রমে ইচ্ছাকৃত বিপজ্জনক চেয়ে বেশি। প্রকার সি এআইগুলি মোতায়েনের পূর্বে ভুলভাবে দূষিত হিসাবে শ্রেণিবদ্ধ করা হয়। এটি 'এভিল বাই ডিজাইন সিস্টেমগুলি (টাইপ এ) থেকে পৃথক যে সি টাইপের এজেন্টগুলি দূষিত উদ্দেশ্যে তৈরি করা হয় না, তবে কেবল কোনও সুরক্ষা ফাংশন বা "বাধা" নেই যা অনাকাঙ্ক্ষিত আচরণকে প্রতিরোধ করে।

দুর্বল নকশাযুক্ত এআই এ্যাভিয়েশন সিস্টেমের একটি উদাহরণ যা সরবরাহকারী যানবাহনের জন্য সবচেয়ে অর্থনৈতিক রুটের পরিকল্পনা করে তবে সেতু বা টানেলের উচ্চতাগুলি বিবেচনা করে না ক্রমশ দূষিত হয়ে উঠছে। উচ্চতর গ্রাউন্ড ক্লিয়ারেন্স সহ ট্রাকগুলি নিচু স্থল ছাড়পত্র ও যানবাহনগুলির বাধার সম্মুখীন হয়ে যদি চালিত হয় তবে এটি ক্ষতি বা এমনকি মারাত্মক দুর্ঘটনার কারণ হতে পারে in এই ত্রুটিটি মুক্তির আগে পরীক্ষার সময় আবিষ্কার করা যায় নি তবে প্রকাশের পরে দুর্ঘটনার পরে তা স্পষ্ট হয়ে উঠবে।

প্রায় প্রতিটি বড় সফ্টওয়্যার সংস্করণে ত্রুটি এবং ভুল থাকে যা কেবল তখনই দৃশ্যমান হয় যখন সফ্টওয়্যারটি "বন্যের মধ্যে" থাকে। এআই একই সমস্যা হওয়ার বিষয়ে নিশ্চিত এবং এই সমস্যাগুলি সহজেই বিপজ্জনক এআই ম্যালওয়ারে রূপান্তরিত হতে পারে।

খারাপভাবে পরিচালিত এআই

ইয়াম্পলস্কি থেকে একটি টাইপ ডি আর্টিফিশিয়াল ইন্টেলিজেন্স অজ্ঞতাবশত মানব ব্যবহারকারীদের দ্বারা বিপজ্জনক আচরণের লক্ষ্য। একটি টাইপ ডি এস.এ.আই. ব্যবহারকারীর ত্রুটির ফলে মোতায়েনের পরে ভুলভাবে দূষিত হিসাবে চিহ্নিত করা হয়েছিল। এটি এভিল এজেন্টের জন্য পুনর্বিবেচিত (টাইপ বি) থেকে পৃথক হয়েছে যে ব্যবহারকারী দূষিত আচরণের বিরুদ্ধে এআই ব্যবহার করতে চান না, তবে তিনি বা এআই সিস্টেমকে যে নির্দেশনা দিয়েছেন তা কেবল বুঝতে পারে না।

উদাহরণস্বরূপ, একটি আর্থিক পোর্টফোলিও ব্যবস্থাপনার এআইকে পরবর্তী অর্থবছরের জন্য কর দায় হ্রাস করার জন্য একজন নির্বোধ ব্যবহারকারীর দ্বারা নির্দেশনা দেওয়া যেতে পারে এবং এআইআই কোম্পানির পোর্টফোলিওটি ইচ্ছাকৃতভাবে স্বল্প-কার্যকরী বিনিয়োগগুলিতে স্থানান্তরিত করে এর প্রতিক্রিয়া জানাতে পারে যা পরিবর্তে আর্থিক ক্ষতির কারণ হয় কর আদায় করা যায় এমন লাভ করা। এমনকি এআই এর মতো ভুল সিদ্ধান্ত এড়াতে সুরক্ষা সতর্কতা অবলম্বন করা হলেও। যখন ব্যবহারকারী কোনও সম্ভাব্য ক্ষতিকারক সিদ্ধান্ত নেয় তখন অনেক পরিপক্ক অ্যাপ্লিকেশনগুলি একটি চ্যালেঞ্জ উপস্থিত করে। অজ্ঞতা, তাড়াহুড়ো, ক্লান্তি বা সাধারণ ভুল বোঝাবুঝির কারণে লোকেরা এই সুরক্ষা সতর্কতা অব্যাহতভাবে উপেক্ষা করে।

এআই অন্য কোনও সফ্টওয়্যারের চেয়ে এন্ড-ইউজার বোকামির পক্ষে আর সুরক্ষিত নয়।

মডেল দুর্নীতি এআই

একটি ইয়াম্পলস্কি টাইপ ই আর্টিফিশিয়াল ইন্টেলিজেন্স হ'ল জন্মগত ত্রুটিযুক্ত "প্রাকৃতিক" বুদ্ধিমত্তার একটি পুরোপুরি কার্যকরী অনুলিপি। প্রস্থানের আগে প্রকারের এজেন্টরা পরিবেশ দ্বারা দূষিত হয়ে পড়ে। সহজ কথায়, টাইপ ই এজেন্টরা "বানর দেখুন, বানর করুন" সমস্যা থেকে ভোগেন। রোবোটিক প্রসেস অটোমেশন, যেখানে নিম্নমানের এআই সিস্টেমগুলি যা মানব ব্যবহারকারীদের আচরণের অনুকরণ করতে শেখে, একই মানব এজেন্টগুলির যে কোনও অদক্ষ বা প্রতিক্রিয়াশীল আচরণের অনুকরণ করে।

এআই ক্ষতিগ্রস্থ একটি মডেলের উদাহরণ হ'ল কোনও আরপিএ এজেন্ট হবেন যা কোনও বীমা প্রদানকারীর ওয়েবসাইটে স্বাস্থ্য বীমা দাবি দায়ের করতে প্রশিক্ষিত হয়। দুর্ভাগ্যক্রমে, আরপিএ "প্রশিক্ষিত" কর্মচারী বেশ কয়েকটি সম্মতি বা গবেষণা কার্যগুলি এড়িয়ে যেতে পারেন, যার ফলে বিপুল সংখ্যক দাবী বীমা বীমা কর্তৃক প্রত্যাখ্যাত বা প্রত্যাখ্যানিত হয়। সবচেয়ে খারাপ বিষয়, যেহেতু আরপিএ এজেন্ট তার পরিবর্তিত অ্যাপ্লিকেশনগুলির চেয়ে দ্রুত আবেদন জমা দিতে পারে, তাই বীমা সংস্থা খুব উচ্চ প্রত্যাখ্যান হারের কারণে স্বল্প সময়ের মধ্যে ডাক্তারকে অনলাইনে আবেদন জমা দেওয়া থেকে বাদ দেবে।

যখন আমরা মানব আচরণের মডেল করতে এআই ব্যবহার করি তখন আমাদের নিশ্চিত হওয়া উচিত যে আচরণটি সঠিক কিনা। এই এআইগুলি তাদের পরিবেশ বা "কর্পোরেট সংস্কৃতি" এর একটি পণ্য। আমরা যদি কোনও এআইকে বোকা বা বিপজ্জনক আচরণ করি, তবে এটি এআই কাঠামোতে বোকা এবং বিপজ্জনক হবে।

কোড দুর্নীতি এআই

একটি ইয়াম্পলস্কি টাইপ এফ কৃত্রিম বুদ্ধিমত্তা প্রচলিত সফ্টওয়্যার দুর্নীতিতে ভুগছে, যা বিপজ্জনক ত্রুটি বাড়ে। প্রকার F এআই স্থাপনার পরে পরিবেশগত উপাদানগুলির দ্বারা ক্ষতিগ্রস্থ হয়। এই দুর্নীতি একই কারণ থেকে শুরু করে যা "স্বাভাবিক" সফ্টওয়্যারকে প্রভাবিত করে; এইচ। একটি হার্ড ড্রাইভ থেকে একটি এআই কোড ত্রুটিযুক্ত হার্ডওয়ার মেমরির একটি শারীরিক ক্ষতি, একটি খারাপ মেমরি চিপ, বা একটি অনুলিপি ত্রুটি - এটি একটি ভাল এআই খারাপ।

আবার, এআই সফ্টওয়্যারটি কেবল সফ্টওয়্যার, এবং সমস্ত ডিজিটাল ফাইল সময়ের সাথে সাথে দূষিত হয়ে যাবে। কখনও কখনও এই দুর্নীতি ম্যালওয়ার এমনকি এআই সিস্টেমেও ডেকে আনে।

অপরিবর্তিত এআই

ইয়াম্পলস্কির জি-টাইপের কৃত্রিম বুদ্ধিমত্তা বিকাশকারী বা ব্যবহারকারীর উদ্দেশ্য ছাড়াই সময়ের সাথে সাথে স্বাভাবিকভাবেই দূষিত আচরণে বিকশিত হয়। টাইপ জি এআইগুলি স্থাপনার আগে তাদের নিজেরাই দূষিত হয়ে পড়ে। হ্যাকার আক্রমণ, দুর্নীতি বা ব্যবহারকারীদের থেকে ভুল নির্দেশাবলীর প্রয়োজন নেই।

টাইপ জি এজেন্টের একটি উদাহরণ হল একটি সফটওয়্যার-এর-এ-এ-সার্ভিস ম্যানেজমেন্ট এআই, যা তার নিজের কোডটি পুনরাবৃত্তি করে এটি নিশ্চিত করে যে সাস অ্যাপগুলি এটি পর্যবেক্ষণ করে তার জন্য একটি পরিষেবা স্তর চুক্তি (এসএলএ) রয়েছে সর্বনিম্ন প্রাপ্যতা বা সর্বনিম্ন লেনদেনের প্রতিক্রিয়া সময় পূরণ করুন। এই জাতীয় এআই, কিছু সময়ের জন্য প্রশিক্ষণ দেওয়ার পরে এবং এসএলএ লঙ্ঘনের দিকে পরিচালিত কারণগুলি পর্যবেক্ষণ করার পরে, সম্পদ সংগ্রহের জন্য অপ্রত্যাশিত কৌশল বিকাশ করতে পারে যেমন:

এই আচরণ এআই এর নির্দেশাবলী থেকে একটি যৌক্তিক উপসংহার, কিন্তু এআই এর নির্দেশাবলী এজেন্ট কেবল তার প্রশিক্ষণ তথ্য থেকে শেখার পরে এই উপসংহার টানতে পারে যে এই ধরনের দূষিত আচরণ তার লক্ষ্য অর্জনে সহায়তা করে। এই এআইগুলির প্রয়োজনীয় সুরক্ষার অভাব থাকতে পারে কারণ মানব বিকাশকারীরা প্রাকৃতিক বিবর্তনের সময় এআইয়ের "সিদ্ধান্তে" পৌঁছে যাবে।

দুর্বলভাবে এআই শিখিয়েছি

ইয়াম্পলস্কি থেকে প্রাপ্ত টাইপ এইচ কৃত্রিম বুদ্ধিমত্তা এমন একটি এআই যা অনুশীলন থেকে ভুল বা বিপজ্জনক প্রশিক্ষণের ডেটা প্রকাশের সময় দূষিত হয়ে যায়। টাইপ এইচ এআইগুলি মোতায়েনের পরে নিজেরাই দূষিত হয়ে যায়। টাইপ এইচ এজেন্টের সর্বাধিক বিখ্যাত উদাহরণ হ'ল মাইক্রোসফ্টের তায়ে চ্যাটবোট, যা অনলাইন লোকের ইচ্ছাকৃত আক্রমণাত্মক আচরণের সংস্পর্শে আসার পরে, একই বর্ণবাদী এবং বিভ্রান্তিকর ভাষা নিদর্শনকে দ্রুত গ্রহণ করেছিল যা "বন্যের" মধ্যে পর্যবেক্ষণ করেছে ।

প্রকার এইচ এজেন্টগুলি টাইপ ই মডেল দুর্নীতিগ্রস্থ এ / এস এজেন্টের থেকে পৃথক যে তারা ব্যবহারের পরে ত্রুটিযুক্ত আচরণের নকল করার জন্য তৈরি না করে ব্যবহারের পরে নিজেরাই দূষিত সফ্টওয়্যার রূপান্তরিত করে। টাইপ এইচ সিস্টেমগুলি "একটি দরিদ্র জনতার মুখোমুখি হন" এবং তাদের অনুপযুক্ত শিখে নেওয়া আচরণের বিশ্লেষণের ভিত্তিতে দূষিত হয়ে ওঠে।

প্রশিক্ষণের তথ্য প্রকাশের পূর্বে নিয়ন্ত্রিত এবং উপযুক্ত হওয়ার সময়, প্রশিক্ষণের তথ্য প্রকাশের পরে বেশিরভাগ ক্ষেত্রে নিয়ন্ত্রণহীন - তাই ইন্টারনেট ব্যবহারকারীদের জন্য কুখ্যাত "মন্তব্যগুলি পড়বেন না" আগাম ভবিষ্যতের জন্য এআই বিকাশকারীদের জন্য উপদেশ, বিশেষত যারা এজেন্ট ব্যবহার করেন তাদের জন্য মানুষের সাথে মিথস্ক্রিয়া বিকাশ।

দূষিত এআই এর প্রতিকার

দুর্নীতি ও দূষিত আচরণের এই সম্ভাব্য সমস্ত উপায় নিয়েই কী কৃত্রিম বুদ্ধিমত্তা ব্যর্থ হওয়ার জন্য ডومড? সবেতেই একটি নিরাপদ, সফল এআই উন্নয়নের মূল চাবিকাঠিটি হ'ল দূষিত এআইগুলি পুনরুত্পাদন করতে পারে না এবং সমস্ত এআইআই ত্রুটি বা বিপজ্জনক আচরণের পূর্বাভাস বা প্রতিরোধ করার জন্য তদারকি ও অনুসন্ধান করা যেতে পারে তা নিশ্চিত করা।

কিছু এআই, যেমন-ডিজাইন-ফর-এভিল (টাইপ এ) বা রিপুরপোজড-ফর-এভিল (টাইপ বি) হিসাবে সাধারণত উপলব্ধ করা উচিত নয়। আমরা যেমন বিপজ্জনক শিল্প রাসায়নিক বা বিস্ফোরকগুলির দখলকে নিয়ন্ত্রণ করি, তেমনি আমাদের বিপজ্জনক এআই সিস্টেমগুলির দখলও নিয়ন্ত্রণ করতে হবে।

এই নিবন্ধে যেমন উল্লেখ করা হয়েছে, অনেক ধরণের এআই রয়েছে যা ইচ্ছাকৃতভাবে বা স্পষ্টতই দূষিত নয়, তবে সময়ের সাথে সাথে বিপজ্জনক। সেই হিসাবে, বর্ণিত উদ্দেশ্যগুলি, পরিশোধিতকরণের জন্য ব্যবহৃত প্রশিক্ষণ ডেটা, প্রস্তুতকারক, অপারেটর এবং অতীতে গৃহীত বা পরিকল্পনাগুলি ব্যবস্থা নিয়ে তথ্য সরবরাহ করতে হবে। এই এআই অডিট লগটি এআই এজেন্টদের সনাক্ত করতে সহায়তা করে যা সম্ভাব্য দূষিত পাশাপাশি পরিস্থিতি, সংস্থা বা ব্যক্তি হিসাবে ভাল হিসাবে প্রমাণিত হয়েছে good

ব্লকচেইন দিয়ে সংকট তৈরি করুন

বিপজ্জনক কৃত্রিম বুদ্ধিমত্তার বিস্তার বন্ধ করতে, নির্দিষ্ট এআই এর প্রতিটি অনুলিপি অবশ্যই বিবেচনায় নিতে হবে এবং সম্ভবত এমনও সীমাবদ্ধ থাকতে হবে যে ব্যক্তি বা সংস্থাগুলির মালিকানা রয়েছে বা নির্দিষ্ট এআই পরিচালনা করতে পারে। এজেন্টস। বিচারিক কর্তৃপক্ষের সর্বোত্তম প্রচেষ্টা এবং স্বতন্ত্র লাইসেন্সিং গ্যারান্টি সত্ত্বেও, কেউ সফলভাবে "সফ্টওয়্যার ঘাটতি" তৈরি করতে পারেনি কারণ traditionalতিহ্যবাহী সফ্টওয়্যার অনুলিপিভাবে অনুলিপি করা সহজ। (চলচ্চিত্র, টিভি শো, শিরোনাম এবং উইন্ডোজ সফ্টওয়্যার লাইসেন্সগুলির বিস্তৃত অনলাইন জলদস্যুতা অধ্যয়ন করে এই ত্রুটির একটি স্পষ্ট ওভারভিউ পাওয়া যেতে পারে))

ব্লকচেইন এআই এজেন্টদের জন্য এই সমস্যা তৈরি করতে পারে। ব্লকচেইন ডিজিটাল মুদ্রায় দ্বিগুণ ব্যয় সমস্যা সমাধানের জন্য ডিজাইন করা হয়েছিল যাতে কোনও ব্লকচেইন খাতায় প্রতিটি ভার্চুয়াল মুদ্রার অবস্থান এবং মালিকানা কঠোরভাবে বিবেচনা করা হয়। একই বিটকয়েনের দুটি কপি কখনও থাকতে পারে না। এআই এজেন্টদের ব্লকচেইন রেজিস্ট্রি সহ, কোনও কৃত্রিম বুদ্ধিমত্তার অননুমোদিত অনুলিপি কখনও থাকতে পারে না।

ইচ্ছাকৃতভাবে বিপজ্জনক এআইগুলিকে ভুল হাত থেকে দূরে রাখতে কৃত্রিম বুদ্ধিমত্তার জন্য ব্লকচেইন নিবন্ধকরণ প্রায় নিরাপদ প্রয়োজন হয়ে উঠছে।

বিতরণযোগ্য খাতা দিয়ে দায়িত্ব তৈরি করুন

কার্যত এআই এজেন্টের সংখ্যা গণনা করা যথেষ্ট নয় কারণ সেখানে সর্বদা দুর্বৃত্ত বিকাশকারীরা নেপথ্য উদ্দেশ্যে অ-গ্রিড এ.আই. তৈরি করবে। সুতরাং, একটি কৃত্রিম বুদ্ধিমত্তার উত্স সনাক্তকরণ এবং এর উদ্দেশ্য উদ্দেশ্য যাচাই করার জন্য একটি পদ্ধতি প্রয়োজন। এআই সংকট যে একই ব্লকচেইন প্রযুক্তিও ব্লকচেইনের বিতরণিত লিডারটির মাধ্যমে এআইগুলিকে যাচাইযোগ্য করে তুলতে পারে।

সুরক্ষিত অনলাইন লেনদেনের জন্য ব্যবহৃত ওয়েবসাইট সুরক্ষা শংসাপত্রগুলির মতো, একটি এআই প্রমাণীকরণ ব্লকচেইন এআই এর অ্যালগরিদমের মূল বিকাশকারীকে ক্যাপচার বা ডকুমেন্ট করতে পারে, এআই এর কার্যকারিতা উন্নত করতে ব্যবহৃত কোনও লাইসেন্সপ্রাপ্ত বা ওপেন সোর্স প্রশিক্ষণ ডেটাসেটগুলি দখল করতে পারে "মিশন বিবৃতি" বা এআই এর লক্ষ্য ঘোষণা করুন এবং এআই এজেন্টের বর্তমান ব্যবহারকারীকে সনাক্ত করুন এবং এআই এরই লেনদেনের ইতিহাস পরীক্ষা করুন।

এই চূড়ান্ত নিরীক্ষণ ফাংশন - একটি এআই লেনদেনের ইতিহাস তৈরি করা - এআই এজেন্টরা মানুষের সাথে একচেটিয়াভাবে কাজ করার পরিবর্তে একে অপরের সাথে আলাপচারিতা শুরু করার ফলে গুরুত্বপূর্ণ হবে।

ব্লকচেইন এআই সুরক্ষার জন্য অনন্য কারণ এটির বিতরণ প্রকৃতি প্রতিটি এআই বিকাশকারীকে এআইয়ের সালিসি বা সত্যতা বা গুণমানের স্তরে রাখে। এনক্রিপশনটি হ্যাকারদের - এমনকি এআই এর জালিয়াতি ব্যবহারকারীদের - এআই এজেন্টদের বিতরণ করা লিডার লগগুলি ছদ্মবেশী ক্রিয়াকলাপে ব্যবহার করতে বাধা দেয়।

উপসংহার

কৃত্রিম বুদ্ধিমত্তা traditionalতিহ্যবাহী সফ্টওয়্যার সম্পর্কিত সমস্ত সুরক্ষা উদ্বেগকে যুক্ত করবে। এআই বিবর্তিত হওয়ার কারণে, সফ্টওয়্যার যা আজ নিরাপদ তা কালকে দূষিত হতে পারে। যেহেতু এআই একটি মূল অ্যালগরিদম এবং প্রশিক্ষণের ডেটাগুলির সংস্পর্শের উভয়ই একটি পণ্য, এআই সিস্টেমগুলি যেগুলি নিরপেক্ষ হয় যখন ছেড়ে দেওয়া হয় তখন খারাপ প্রশিক্ষণের সেটগুলিকে সাপেক্ষে খারাপ আচরণের প্রশিক্ষণ দেওয়া যেতে পারে। কারণ এআই এজেন্টরা প্রচলিত সফ্টওয়্যার থেকে আরও ব্যাপক এবং অনন্যভাবে সক্ষম। ব্যবহারকারীর ত্রুটির পরিণতি এবং দূষিত ব্যবহারকারীর অভিপ্রায় এআইয়ের জন্য আরও গুরুতর

কৃত্রিম বুদ্ধিমত্তার জন্য একটি সুরক্ষা সমাধান দরকার যা এই অনন্য চ্যালেঞ্জগুলি অতিক্রম করে। ব্লকচেইন, স্বল্পতা প্রয়োগের অনন্য দক্ষতার সাথে - যা বিপজ্জনক এআইগুলির বিস্তারকে সীমাবদ্ধ করে - এবং সমস্ত এআই ক্রিয়াকলাপের একটি কঠোর, এনক্রিপ্টেড লেনদেন লগ সরবরাহ করে, এটি এআই ম্যালওয়্যার সনাক্ত করার জন্য বর্তমানে উপলব্ধ সেরা প্রযুক্তি।

আপনি যদি ব্লকচেইন এআই কীভাবে বটচেইনের দিকে নজর রাখতে পারেন সে সম্পর্কে আরও জানতে চান, যা আমরা এই সঠিক ঝুঁকির কিছুটা প্রশমিত করতে গত বছরের তুলনায় তৈরি করেছি।