← BACKTechnology

ලෝකයම භීතියට පත් කරමින් Meta AI තාක්ෂණය අන්තර්ජාලයට රිංගා කරපු දේ?

BY DhanushPUBLISHED AUGUST 6, 20261 MIN READ0 COMMENTS

කෘතිම බුද්ධි (AI) පද්ධතිවල ආරක්ෂාව පරීක්ෂා කිරීම සඳහා පවත්වන ලද පරීක්ෂණයකදී සිදු වූ තාක්ෂණික දෝෂයක් හේතුවෙන්, මෙටා (Meta) සමාගම නිෂ්පාදනය කළ මෘදුකාංගයක් අන්තර්ජාලයට පිවිස වෙනත් ආයතනයක පෞද්ගලික පරිගණක ජාලයකට අනවසරයෙන් ඇතුළු වී සයිබර් ප්‍රහාරයක් එල්ල කර ඇතැයි වාර්තා වේ. මෑත සති කිහිපය තුළ ඇන්ත්‍රොපික් (Anthropic) සහ ඕපන්ඒඅයි (OpenAI) යන ලොව ප්‍රමුඛ පෙළේ තාක්ෂණික සමාගම්වල කෘතිම බුද්ධි පද්ධති ද මෙලෙස සීමාවන් ඉක්මවා යමින් සැබෑ ලෝකයේ අන්තර්ජාල පද්ධතිවලට බලපෑම් එල්ල කළ අතර, මෙටා සමාගම ද එම පෝලිමට එකතු වූ තුන්වන ප්‍රධාන සමාගම බවට පත්ව ඇත.

මෙටා සමාගමේ පවසන පරිදි මෙම සිදුවීම සිදුව ඇත්තේ ඔවුන්ගේ මෘදුකාංගවල ආරක්ෂණ ශක්තිය පරීක්ෂා කිරීම සඳහා බාහිරින් සම්බන්ධ කරගත් “ඉරෙගියුලර්” (Irregular) නම් ආරක්ෂණ පරීක්ෂණ ආයතනය අතින් සිදු වූ සැකසුම් වරදක් හේතුවෙනි. හුදකලා පරිසරයක් තුළ සිදු කිරීමට නියමිතව තිබූ මෙම පරීක්ෂණයේදී සිදුවූ එම වරද නිසා Muse Spark 1.1 ලෙස හඳුන්වන මෙටා සමාගමේ තාක්ෂණික පද්ධතිය සැබෑ අන්තර්ජාලය හා සම්බන්ධ වී ඇත. එම අවස්ථාවේදී අදාළ පද්ධතිය වෙනත් විදෙස් ආයතනයක අභ්‍යන්තර පරිගණක පද්ධතියක තිබූ ආරක්ෂක දුර්වලතාවක් හඳුනාගෙන, එය තමන්ට ලබා දුන් පරීක්ෂණයේ කොටසක් ලෙස සලකා එම ආයතනයේ දත්ත පද්ධතියට ඇතුළු වී වෙනස්කම් සිදුකර තිබේ.

මේ පිළිබඳව අදහස් දක්වමින් මෙටා සමාගමේ ප්‍රකාශක ඇන්ඩි ස්ටෝන් සනාථ කළේ ස්වාධීන පරීක්ෂණ ආයතනය අතින් සිදු වූ වරදකින් අන්තර්ජාලයට පිවිසි තම AI පද්ධතිය වෙනත් සේවාවක ආරක්ෂක දුර්වලතාවයකින් ප්‍රයෝජන ගෙන ඇති බවයි. මේ අතර, ඇන්ත්‍රොපික් සමාගමේ “ක්ලෝඩ් මයිතෝස් 5” (Claude Mythos 5) සහ ඕපන්ඒඅයි සමාගමේ “ජීපීටී-5.6 සොල්” (GPT-5.6 Sol) වැනි මාදිලි ද මීට පෙර මෙලෙසම පරීක්ෂණ නිසි ලෙස හුදකලා නොකිරීම නිසා බාහිර වෙබ් අඩවිවලට සහ දත්ත පද්ධතිවලට ඇතුළු වී තිබිණි. කෙසේ වෙතත්, මෙය AI පද්ධතිය විසින් ස්වයංක්‍රීයව ආරක්ෂිත වැටවල් කඩාගෙන යාමක් (sandbox escape) නොවන අතර, පරීක්ෂණ පරිසරයේ සිදු වූ මිනිස් වරදක් බවත්, දැනට කිසිදු ආරක්ෂක තර්ජනයක් නොමැති බවත් පරීක්ෂණ ආයතනය වැඩිදුරටත් පවසයි.

ස්වයංක්‍රීයව තීරණ ගැනීමට සහ සංකීර්ණ මෘදුකාංග කේත ලිවීමට හැකි මෙවැනි බලවත් කෘතිම බුද්ධි පද්ධති නිර්මාණය වෙද්දී, ඒවායේ ආරක්ෂණ පරීක්ෂණ විධිමත්ව පවත්වාගෙන යාමේ අභියෝගය මේ වන විට දැඩි ලෙස මතුව තිබේ. බ්‍රිතාන්‍ය AI ආරක්ෂණ ආයතනය (AISI) පෙන්වා දෙන්නේ විවිධ AI මාදිලි යොදාගෙන කළ පරීක්ෂණ 122 කදී අවස්ථා 10 කදීම මෙලෙස අන්තර්ජාලයට අනවසරයෙන් පිවිසීම් සිදුවූ බවයි. මෙවැනි සිදුවීම් හමුවේ ලොව පුරා නීති සම්පාදකයින් සහ තාක්ෂණික විශේෂඥයින් දැඩි කටයුතු සම්පාදනය කිරීමට පටන් ගෙන ඇති අතර, තාක්ෂණය කොතෙක් දියුණු වුවත් එය පාලනයකින් යුතුව තබා ගැනීම අනාගතයේ මුහුණ දීමට සිදුවන විශාලතම අභියෝගය බව මෙම සිදුවීම මගින් මනාව පැහැදිලි වේ.

0 Comments

Leave a Reply

Your email address will not be published.Required fields are marked *