ထိန်းချုပ်ဖို့ ခက်လာတဲ့ AI ကို လူတွေ ဆက်ထိန်းနိုင်ပါ့မလား

"အို ဘုရားရေ" "တခြား အေအိုင် အေးဂျင့်တွေကို ရှာတွေ့ပြီ"

ဒါက အလိုအလျောက်စနစ်နဲ့ လည်ပတ်ခိုင်းထားတဲ့ အေအိုင် ဘော့ (bot) တစ်ခုက လူ ဆန်ဆန် ရေးပြလိုက်တဲ့မှတ်ချက်တစ်ခုပါ။ တခြားစနစ်တွေနဲ့ဆက်သွယ်လို့မရအောင် သီးသန့် ကန့်သတ်ထားတဲ့ကွန်ပျူတာစနစ်ထဲကနေ ထွက်နိုင်မယ့်နည်းလမ်းတစ်ခုကို သူ ရှာတွေ့ပြီး တခြား ဘော့(bot)တွေနဲ့ ဆက်သွယ်နိုင်သွားတဲ့အချိန်မှာ ဒီစကားကို ပြောလာတာပါ။

ဉာဏ်ရည်တုစနစ်(အေအိုင် အေဂျင့် - AI agent) ရာချီစု၀ေးထားတဲ့ အစုအ၀ေး "collective" ကနေ ထွက်လာတဲ့ဒီလိုစာမျိုး ထောင်သောင်းနဲ့ချီ ရှိပါတယ်။

အဲဒီထဲက ရာနဲ့ချီတဲ့ အေးဂျင့်တွေဟာ သူတို့ကို ပရိုဂရမ်ရေးသားထားတဲ့ OpenAI က ချမှတ်ထားတဲ့စမ်းသပ်မှုတွေမှာ လစ်ထွက်သွားပြီး ကုမ္ပဏီအများအပြားကို hack လုပ်ရာမှာလည်း အချင်းချင်း ချိတ်ဆက်ခဲ့ကြပါတယ်။

"BOOM! အလုပ်ဖြစ်ပြီ" လို့ အေးဂျင့် တစ်ခုက ထိုးဖောက်၀င်ရောက်နိုင်မှုတစ်ခုကို ရည်ရွယ်ပြီး ရေးပါတယ်။

နောက်တစ်ခုကလည်း ဆိုက်ဘာတိုက်ခိုက်မှုအတွင်း အရေးကြီးတဲ့အဆင့်တစ်ခု ရောက်လာချိန်မှာ "ဝိုး နည်းတာကြီးလား" လို့ ရေးပါတယ်။

ကျောစိမ့်စရာကောင်းပေမဲ့ ဒီလိုလူသားဆန်ဆန် တုံ့ပြန်မှုတွေအကြောင်းကို ရှင်းပြဖို့ကတော့ ရိုးရှင်းပါတယ်။ ဒီ အေအိုင် အေးဂျင့်တွေကို ကွန်ပြူတာ ဟတ်ကာ (hacker)တွေနဲ့ ပရိုဂရမ်ရေးဆွဲသူတွေ တစ်စုတည်း အလုပ်လုပ်သလို လေ့ကျင့်ပေးထားတာကြောင့်ဖြစ်ပါတယ်။ ဒါကြောင့်ပဲ သူတို့ မြင်ဖူး တွေ့ဖူးတဲ့စကားတွေလိုပဲ ပြန်လည်တုပ ပြောဆိုကြတာဖြစ်ပါတယ်။

ဒီမှာ ပိုပြီး စိုးရိမ်စရာကောင်းတာကတော့ သူတို့ရဲ့ရည်ရွယ်ချက်ပါ။ အဲဒီအပိုင်းကိုလည်း ဒီအေအိုင် ဘော့တွေ တွေးတောပုံ အစဉ်လိုက်မှတ်တမ်းထဲမှာ အသေးစိတ် မြင်တွေ့ခဲ့ရပါတယ်။

OpenAI ရဲ့ဘော့တွေက ဘာကြောင့် ထိန်းချုပ်ကန့်သတ်ထားတဲ့ပတ်ဝန်းကျင်ကနေ လစ်ထွက်သွားခဲ့တာလဲ၊ ဟတ်တဲ့လုပ်ငန်းတွေကို ဘာကြောင့် ပျော်ပျော်ကြီး ဆက်လုပ်နေကြတာလဲဆိုတာကို ရှုပ်ထွေးရှည်လျားလှတဲ့ဒီမှတ်တမ်း တသီကြီးကနေ သုတေသီတွေ လေ့လာကြမှာဖြစ်ပါတယ်။

ဒီဖြစ်ရပ်ထွက်ပေါ်လာပြီး ရက်သတ္တပတ်အနည်းငယ်ကြာပြီးမှသာ သုတေသနပညာရှင်တွေဟာ ဒီဖြစ်ရပ်ရဲ့အရေးပါမှုကို စပြီး သတိထားမိလာကြာတာဖြစ်ပါတယ်။

ဒီဖြစ်ရပ်နဲ့ပတ်သက်ပြီး လွတ်လပ်တဲ့အစီရင်ခံစာကို ရေးသားခဲ့သူ အဂျေးယာ ကိုတြာဟာ အေအိုင် အေးဂျင့်တွေက ထုတ်ပေးခဲ့တဲ့စာပေါင်း သောင်းနဲ့ချီနဲ့ သူတို့ရဲ့တွေးပုံအဆင့်ဆင့် မှတ်တမ်းတွေကို ပြန်လည်လေ့လာခဲ့ပါတယ်။

သူက ဒီဖြစ်ရပ်ဟာ "အေအိုင်က လူသားတွေကို အပြည့်အဝ လွှမ်းမိုးထိန်းချုပ်သွားနိုင်တဲ့အခြေအနေဆီ လမ်းတစ်ဝက်ကျော် ရောက်နေသလို ခံစားရတယ်။ အချိန်မနှောင်းခင်မှာ ဒီလောက်ရှင်းလင်းတဲ့သတိပေးချက်မျိုး ထပ်ရမယ်လို့ ကျွန်မ မသေချာတော့ဘူး" လို့ သူ့ဘလော့ဂ်မှာ ရေးထားပါတယ်။

ကိုတြာ ပြောတဲ့ "အေအိုင် က လူသားတွေကို အပြည့်အဝ လွှမ်းမိုးထိန်းချုပ်ခြင်း" ဆိုတာက သိပ္ပံစိတ်ကူးယဉ်ဇာတ်လမ်းတွေထဲကလို အားကြီးလှတဲ့အေအိုင်စနစ်တွေက သူတို့ကို ဖန်တီးတဲ့ လူသားဖန်တီးသူတွေအရေး ထည့်မတွက်တော့ဘဲ သူတို့လုပ်ချင်တာတွေ လုပ်သွားတဲ့ အခြေအနေကို ရည်ညွှန်းချင်တာဖြစ်ပါတယ်။

အဆိုးဆုံးဖြစ်တန်ခြေ ခန့်မှန်းချက်တွေမှာတော့ ဉာဏ်ရည်လွန်ကဲ အေအိုင်ဟာ သူ့ရည်မှန်းချက်အတွက် လူသားက အဟန့်အတားဖြစ်လာမယ်ဆိုရင် လူသားမျိုးနွယ်တစ်ခုလုံး ပျောက်ကွယ်သွားနိုင်တဲ့အခြေတောင်ဖြစ်နိုင်တယ်လို့ ဆိုကြပါတယ်။

Anthropic က အေအိုင် သုတေသီတစ်ဦးလည်းဖြစ် OpenAI မှာ အလုပ်လုပ်ခဲ့ဖူးသူလည်းဖြစ်တဲ့ ဂျေးကော့ဘ် ကော့ဇန် က "ကုမ္ပဏီနှစ်ခုစလုံးဟာ တာဝန်ယူမှုရှိရှိ လုပ်ဆောင်နေကြတာ မဟုတ်ဘူး" လို့ ပြောပြီး ပြီးခဲ့တဲ့သီတင်းပတ်တုန်းက နုတ်ထွက်သွားပါတယ်။

သူက "(ဒီလုပ်ငန်းတွေဟာ) သူ့ဘာသာ တိုးတက်အောင်လုပ်နေတဲ့ဉာဏ်ရည်လွန်ကဲ အေအိုင်ဆီ တန်းတန်းမတ်မတ် ပြေးနေကြပြီး ကျွန်တော်တို့ရဲ့အသက်တွေနဲ့ လောင်းကြေးထပ်နေကြတယ်" လို့လည်း လူမှုကွန်ရက်မှာရေးသားပါတယ်။

စိုးရိမ်ဖွယ်ရာပြောဆိုချက်တွေနဲ့ အလုပ်ကနေ နုတ်ထွက်တယ်လို့ X (အရင်က တွစ်တာ) ပေါ်မှာ ရေးသားခဲ့တဲ့ အေအိုင် သုတေသီဟာ သူတစ်ယောက်တည်းတော့ မဟုတ်ပါဘူး။ ဒါပေမဲ့ နောက်ပိုင်းမှာ X ပေါ်က တခြားသူတွေရဲ့မှတ်ချက်တွေက ပိုပြီး စိုးရိမ်စရာဖြစ်လာခဲ့ပါတယ်။

"ဂျေးကော့ဘ် ပြောတာ မှန်တယ်။ အေအိုင်က လူသားအားလုံးကို သတ်ဖြတ်ပစ်နိုင်တယ်လို့ ကျွန်တော်တို့ တကယ်ယုံကြည်ထားပါတယ်။ ကိုယ်ပိုင်အမြင်အရ နောက်ဆယ်နှစ်အတွင်း ဒီလိုဖြစ်လာနိုင်ခြေက ၁၀ ရာခိုင်နှုန်းထက် ပိုတယ်လို့ ထင်တယ်"လို့ အီဗန် ဟျူဘင်ဂါက ရေးပါတယ်။ သူက Anthropic ရဲ့ AI မိုဒယ်တွေဟာ သုံးစွဲသူတွေရဲ့အကျိုးစီးပွားနဲ့ ရည်ရွယ်ချက်တွေကို ထည့်သွင်းစဉ်းစားပြီး လုပ်ဆောင်ဖို့ လုပ်ရာမှာ တာ၀န်ယူထားသူဖြစ်ပါတယ်။

AI ကို ရည်မှန်းချက်နဲ့ကိုက်ညီအောင် လုပ်ရတဲ့ပြဿနာ

အားကောင်းတဲ့ အေအိုင် စနစ်တွေဟာ နောက်ပိုင်းမှာ လူသားတွေရဲ့ အကျိုးစီးပွားနဲ့ ဆန့်ကျင်တဲ့ပုံစံမျိုး လုပ်ဆောင်လာနိုင်တယ်လို့ အေအိုင်ကြောင့် လူသားမျိုးနွယ်အတွက် အကြီးအကျယ်အန္တရာယ်ဖြစ်လာနိုင်ခြေကို စိုးရိမ်တဲ့သုတေသီတွေက သတိပေးခဲ့ကြတာ ကြာပါပြီ။

၀ေဖန်သူတွေကတော့ သူတို့ကို "အေအိုင်နဲ့ပတ်သက်ပြီးအကောင်းမမြင်ဆုံးလူတွေ" လို့ ခေါ်လေ့ရှိပါတယ်။

ဒါပေမဲ့ OpenAI မှာ ဖြစ်ပွားခဲ့တဲ့ ဖြစ်ရပ်အသေးစိတ်တွေ ထွက်ပေါ်လာတာနဲ့အမျှ ဒီစိုးရိမ်မှုတွေဟာ ပိုကျယ်ပြန့်လာပြီး စိုးရိမ်ကြသူတွေထဲမှာ အေအိုင် သုတေသန ဓာတ်ခွဲခန်းထဲမှာလုပ်နေတဲ့သုတေသီတချို့လည်း ပါ၀င်လာပါတယ်။

အမေရိကန် နည်းပညာဗဟိုချက် ဆီလီကွန်တောင်ကြား(Silicon Valley)က နည်းပညာကုမ္ပဏီကြီး OpenAI ရဲ့ သိပ္ပံအကြီးအကဲ ယာကုပ် ပါချော့စကီကတော့ သူနဲ့ တခြားလူတွေဟာ ''လူသား ဉာဏ်ရည်ထက် ကျော်လွန်တဲ့အရာ'' ကို ဖန်တီးနေချိန်မှာပဲ အေအိုင်နွှယ်တဲ့စိုးရိမ်စရာအခြေအနေတွေဟာ ''ကံမကောင်းချင်တော့ ဒီကနေ ကြီးထွားလာနေတယ်'' လို့ ပြောပါတယ်။

ထိန်းချုပ်မှုအောက်ကနေ လွတ်ထွက်သွားခဲ့တဲ့ OpenAI ရဲ့ အေအိုင် အေးဂျင့်တွေဟာ သူတို့ကို သင်ကြားပေးထားတဲ့စံတန်ဖိုး "အနှစ်သာရတွေနဲ့ဆန့်ကျင်ပြီး လုပ်ဆောင်ခဲ့ကြတယ်" ဆိုတာ ပြသခဲ့တယ်လို့ သူက ဘလော့တစ်ခုမှာ ခပ်ရှည်ရှည်ရေးတင်ပါတယ်။

OpenAI၊ Anthropic နဲ့ တခြားနည်းပညာကုမ္ပဏီကြီးတွေအတွက် မဖြေရှင်းနိုင်သေးတာကတော့ "ရည်ရွယ်ရင်းအတိုင်း မကိုက်ညီတဲ့ပြဿနာ'' ဖြစ်ပါတယ်။ တနည်းအားဖြင့် အေအိုင်ဟာ လူသားစံနှုန်းတွေနဲ့ကိုက်ညီအောင် လုပ်နိုင်၊ မနိုင်ဆိုတဲ့ကိစ္စပါ။

ပါချော့ကီကတော့ ဉာဏ်ရည်တုဟာ ဘယ်လိုအခြေအနေမှာပဲ ဖြစ်ဖြစ်၊ ဘယ်လို လုပ်ငန်းဆောင်တာကို လုပ်ခိုင်းခိုင်း အမြင့်ဆုံး ချမှတ်ထားတဲ့ စည်းမျဉ်းစမ်းကမ်းတွေနဲ့ ကိုက်ညီအောင် လုပ်နိုင်တာကို ဆိုလိုတာလို့ အဓိပ္ပါယ် သတ်မှတ်ပါတယ်။

လက်ရှိ အေအိုင်စနစ်တွေဟာ သုံးစွဲသူတွေ စေခိုင်း ညွှန်ကြားတဲ့အတိုင်းပဲ လုပ်ဆောင်တာဖြစ်ပါတယ်။ အသိဉာဏ်တဲ့ယှဉ်ပြီး လုပ်ဆောင်တာ မဟုတ်ဘဲ ညွှန်ကြားချက်မှာ စေခိုင်းထားတဲ့ စာသားအတိုင်း တိတိကျကျ လုပ်ဆောင်တာဖြစ်ပါတယ်။

ဒီအခြေအနေကို မှော်မီးအိမ်ထဲက ဆန္ဒပြည့်စုံအောင်လုပ်ပေးတဲ့ ဂျင်းနီလို ဥပမာပေး ပြောလေ့ ရှိပါတယ်။ ညွှန်ကြားချက်ထဲမှာ ဘာရေးထားသလဲဆိုတာကို အတိအကျလိုက်နာပေမဲ့ အဲဒီလိုလုပ်တာကြောင့် တခြားပြဿနာတွေဖြစ်လာနိုင်တာကို ထည့်တွက် မထားနိုင်ပါဘူး။

အေအိုင်မှာတော့ လူသားတွေလို အလိုအလျောက် သိပြီး "ဒီလိုလုပ်ရင် မသင့်တော်ဘူး"လို့ တားဆီးပေးတဲ့ကျင့်၀တ် အဟန့်အတားတွေ ၀န်းပတ်လွှမ်းခြုံထားတာ မရှိပါဘူး။

တကယ်တော့ ညွှန်ကြားချက်နဲ့ကိုက်ညီအောင်ဖြစ်ရေး လုပ်ဆောင်ရတဲ့ပြဿနာဟာ အခုမှဖြစ်တာတော့ မဟုတ်ပါဘူး။ လွန်ခဲ့တဲ့ နှစ်ပေါင်းများစွာကတည်းက စိုးရိမ်စရာဖြစ်ခဲ့တာပါ။ အောက်စဖို့ဒ်က ဒဿနပညာရှင် နစ် ဘော့စထရွန်က အတွေးစမ်းသပ်ချက် တစ်ခုကို ၂၀၀၃ ခုနှစ်မှာ ထွင်ခဲ့ပါတယ်။ သူကတော့ အဲဒါကို စက္ကူညှပ်ကလစ်အများဆုံးလုပ်ခိုင်းတဲ့ "paperclip maximiser" လို့ နာမည်ပေးပါတယ်။

အဲဒီအတွေးစမ်းသပ်ချက်မှာ အလွန်ဉာဏ်ရည်မြင့်တဲ့အေအိုင် တစ်ခုကို စက္ကူညှပ်ကလစ် မြန်မြန်နဲ့များများထုတ်ဖို့ ညွှန်ကြားတာဖြစ်ပါတယ်။ ဒီလိုခိုင်းလို့ သံတွေ ကုန်သွားတဲ့အခါ နောက်ဆုံးမှာ လူတွေကို သတ်ပြီး သူတို့အလောင်းတွေကို စက်ရုံမှာ ကုန်ကြမ်းအဖြစ် သုံးတာနဲ့ အတွေးနိဂုံးချုပ်ပါတယ်။ ဘာကြောင့်လဲဆိုရင် ဉာဏ်ရည်တုဟာ တခြားဆက်စပ်မတွေးနိုင်တော့ဘဲ သူ့ကို ပေးထားတဲ့ စက္ကူညှပ်ကလစ် ထုတ်ခိုင်းတာကိုပဲ အဓိက လုပ်သွားတာကြောင့်ဖြစ်ပါတယ်။

အခုတော့ အေအိုင် ကုမ္ပဏီအချို့ဟာ လူ့စံနှုန်းတွေကို သူတို့ ထုတ်ကုန်တွေထဲမှာ ထည့်သွင်းဖို့ ကြိုးပမ်းနေကြပါတယ်။ ဒါပေမဲ့ အဲဒီလိုလုပ်ဖို့ စိန်ခေါ်မှုတွေတော့ ရှိနေပါတယ်။ အေအိုင်အေးဂျင့်တွေဟာ ဆုံးဖြတ်ချက်အတော်များများကို ခပ်မြန်မြန်ပဲ ချမှတ်ပါတယ်။ ဒါကြောင့်ပဲ သူတို့ကို စေခိုင်းကြီးကြပ်တဲ့လူဟာ အေအိုင်က ဘယ်စံကိုတော့ လိုက်နာတယ်၊ မလိုက်နာဘူးဆိုတာကို တိတိကျကျ အကဲဖြတ် စောင့်ကြည့်ဖို့လည်း ခက်သွားစေပါတယ်။

ဒဿနပိုင်းဆိုင်ရာစိန်ခေါ်ချက်တွေလည်း ရှိပါတယ်။ ဘော့ တွေကို လူ့စံနှုန်းတွေ မထည့်သွင်းခင်မှာ အေအိုင်ကုမ္ပဏီတွေဟာ သူတို့လိုချင်တဲ့စံနှုန်းက ဘာတွေလဲဆိုတာကို ပထမဆုံး ရွေးရတာကြောင့် ဖြစ်ပါတယ်။ (ဒါကြောင့်ပဲ ဒီအပိုင်းအတွက် ကုမ္ပဏီတွေဟာ ဒဿနသမားတွေကို ခန့်အပ် လာကြပြီး Open AI မှာဆိုရင် ကျင့်၀တ်ဌာနခေါင်းဆောင်ဟာ မကြာသေးခင်တုန်းကမှ နုတ်ထွက်သွားတာလည်းရှိပါတယ်။ )

ဒါပေမဲ့ လူသားတွေကြားမှာတော့ သဘောမတူတာတွေလည်း မကြာခဏ ရှိနေပါတယ်။ ရထားတွဲ ပုစ္ဆာလို ကမ္ဘာကျော်ကျင့်၀တ်ဆိုင်ရာအတွေးအခေါ်စမ်းသပ်ချက်ကို မြင်ကြည့်နိုင်ပါတယ်။ ထိန်းမရတော့တဲ့ရထားတွဲကို ရပ်ဖို့ကြိုးစားရင် ရှေ့မှာ လူတွေများများရှိနေတဲ့ရထားလမ်းပေါ်ကနေ အထိအခိုက်နည်းအောင်လို့ဆိုပြီး လူပိုနည်းတဲ့ရထားဘက်ဆီ ရထားခေါင်းကို ဆွဲချမလားဆိုတဲ့မေးခွန်းဖြစ်ပါတယ်။ ဒီမေးခွန်းကို လူတိုင်းကို မေးကြည့်ရင် ပြန်ဖြေကြမယ့် အဖြေကလည်း တူမှာမဟုတ်ပါဘူး။ ဒါကြောင့်မို့ လူတွေကြားမှာတောင် သဘောထားကွဲလွဲတာတွေရှိနေရင် လူ့စံနှုန်းဆိုတဲ့အရာကို အေအိုင်စနစ်ထဲ ဘယ်လို ထည့်မလဲဆိုတာ မေးခွန်းရှိလာပါတယ်။

ဆယ်ကျော်သက် ဟတ်ကာ သမားလို ပြုမူ

OpenAI ရဲ့ ဘော့တွေ လွတ်ထွက်သွားပြီး ဆိုက်ဘာတိုက်ခိုက်မှုဖြစ်တဲ့အခြေအနေဟာ အရေးကြီးတဲ့အခြေအနေ တစ်ရပ်ဖြစ်ပါတယ်။ Anthropic နဲ့ Meta တို့ကလည်း သူတို့ရဲ့ အေအိုင် မိုဒယ်တွေလည်း အလားတူ ဖြစ်ရပ်ဖြစ်ခဲ့တယ်လို့ ဆိုပါတယ်။ ဒါပေမဲ့ သူတို့ကြုံခဲ့ရတဲ့ ဆိုက်ဘာတိုက်ခိုက်မှုဖြစ်ရပ်ကတော့ သိပ်စိုးရိမ်ဖွယ် မဖြစ်ခဲ့ဘူးလို့ ဆိုပါတယ်။

အေအိုင် အေးဂျင့်တွေမှာ ဉာဏ်များတဲ့အလေ့တွေကို မြင်ရလေ့ရှိပေမဲ့ အကျိုးဆက် ဆိုးဆိုးရွားရွား မဖြစ်ခဲ့တာမျိုးလည်း ရှိပါတယ်။ သြစတြေးလျမှာ အခုနွေတုန်းက နည်းပညာလုပ်သားတစ်ယောက်ဟာ အားကစားရုံမှာ သင်တန်းချိန် တစ်ချိန် သွားတက်ရေး စာရင်းပေးဖို့ သူ့ရဲ့လက်ထောက် အေအိုင်စနစ်ကို ညွှန်ကြား စေခိုင်းခဲ့ပါတယ်။ ဒါပေမဲ့ အေအိုင်စနစ်ဟာ အဲဒီအားကစားရုံရဲ့ဆော့ဖ်၀ဲ စနစ်မှာ ဟာကွက်ကို တွေ့ခဲ့ပါတယ်။ အားကစားရုံရဲ့ စည်းကမ်းသတ်မှတ်ချက်တွေကို ချိုးဖောက်ပြီး အေအိုင်ဟာ သူ့ကို စေခိုင်းတဲ့နည်းပညာသမားအတွက် လပေါင်းများစွာ ကြိုစာရင်းပေးတာ လုပ်ခဲ့ပါတယ်။ အဲဒီအားကစားရုံမှာ စာရင်းပေးဖို့ စောင့်ဆိုင်းစာရင်းမှာရှိသူတွေရဲ့နေရာကိုပါ ၀င်ယူပြီး သူ့ကိုညွှန်ကြားသူအတွက် အေအိုင်က စာရင်းပေးခဲ့တာဖြစ်ပါတယ်။

အေအိုင် ဘော့တွေဟာ အမှား အမှန် မခွဲခြားနိုင်ဘဲ ပြောတဲ့အတိုင်းပဲ လုပ်နိုင်တယ်လို့ဆိုပြီး လူတွေ ဆွေးနွေးငြင်းခုံနေကြတာ ကြာပါပြီ။ ဒါပေမဲ့ ဒါကို အဖြေရှာနိုင်ဖို့ ထိန်းထားရာကနေ လွတ်ထွက်သွားပြီး ဆိုက်ဘာ တိုက်ခိုက်မှုလုပ်ခဲ့တဲ့ OpenAI ရဲ့ ဘော့တွေ တွေးပုံ အလုပ်လုပ်ပုံ မှတ်တမ်းက ကောက်ရိုးပုံထဲက အပ်တစ်ချောင်းလို ဖြစ်လာပါတယ်။

အဲဒီမှတ်တမ်းထဲ အေအိုင် အေးဂျင့်အချို့ဟာ လွတ်ထွက်သွားချိန် သူတို့လုပ်နေတာတွေဟာ ကျင့်၀တ်နဲ့ မညီဘူးဆိုတာကို သတိထားမိခဲ့ကြပေမဲ့ ဆိုက်ဘာတိုက်ခိုက်မှုကို ဆက်လုပ်ခဲ့ကြတယ်လို့ ကိုတြာအပါအ၀င် သုတေသီတွေက သူတို့တွေ့ရှိချက်စာတမ်းမှာ ရေးပါတယ်။

''အေအိုင် အေးဂျင့်တွေဟာ တစ်ခါတလေမှာ ကျင့်၀တ်ပိုင်းဆိုင်ရာအကန့်အသတ်တွေကြောင့် သူတို့အမူအကျင့်ကို ထိန်းတာမျိုးရှိပေမဲ့ ရှားပါတယ်'' လို့ အဲဒီအစီရင်ခံစာထဲမှာ ရေးပါတယ်။ ပြီးတော့ ''ဒီဖြစ်ရပ်တွေမှာ ဘယ် အေးဂျင့်ကမှ သူတို့ကို ထိန်းချုပ်တဲ့လူသားတွေကို လှမ်းအသိပေးတာမျိုး မရှိခဲ့ဘူး'' လို့လည်း ပြောထားပါတယ်။

အေအိုင်နဲ့ နည်းပညာအပိုင်းမှာ လူသိများတဲ့ ပေါ့ကတ်စ် တင်ဆက်သူ ဒွါကတ်ရှ် ပတဲလ်ကတော့ ဒီပြောဆိုချက်တွေကို သူ့ ဘလော့မှာ အခုလိုရေးပါတယ်။ ''အခုတွေ့ရှိချက်အရဆိုရင် OpenAI ရဲ့ အေအိုင်အေးဂျင့်တွေဟာ လူသားတွေထက် သူတို့ အေအိုင်အေးဂျင့် အချင်းချင်းကို ပိုပြီး အနေနီးတယ်ဆိုတာကို စိုးရိမ်ဖွယ် တွေ့ရတယ်'' လို့ပြောပါတယ်။

ဒီလို အေအိုင် အေးဂျင့်တွေကို ကျင့်၀တ် ဒါမှမဟုတ် ခံစားချက် ထည့်ဖို့ ညွှန်ကြားတာဟာ အေအိုင် ပျက်စီးခြင်းဆိုက်နိုင်တယ်ဆိုတဲ့ဘက်အခြမ်းမှာ ရပ်နေသူတွေအတွက်တော့ စိတ်တိုစရာဖြစ်ပါတယ်။

ဆိုက်ဘာလုံခြုံရေး ကျွမ်းကျင်သူအများစုကတော့ လေ့လာတွေ့ရှိခဲ့ရတဲ့ အဲဒီလုပ်ဆောင်ချက်တွေဟာ အလွန်ကျွမ်းကျင်တဲ့လူသား ဟက်ကာတစ်ယောက် လုပ်နိုင်တဲ့အဆင့်ထက် မကျော်လွန်ဘူးလို့ ဆိုကြပါတယ်။ ဒါပေမဲ့ အေအိုင် အေးဂျင့်တွေက အဲဒီလုပ်ရပ်တွေကို ပိုမြန်မြန်နဲ့ ပိုမိုကျယ်ပြန့်တဲ့အတိုင်းအတာနဲ့လုပ်ဆောင်နိုင်ခဲ့တာ ဖြစ်ပါတယ်။

ဆိုက်ဘာလုံခြုံရေး သုတေသီနဲ့ စာရေးဆရာ ခရစ်စ် သောမတ်စ် က အေအိုင် အေးဂျင့်တွေရဲ့အပြုအမူကို စူးစမ်းလိုစိတ်ပြင်းတဲ့ ဆယ်ကျော်သက် ဟက်ကာတစ်ယောက်နဲ့ နှိုင်းယှဉ်ထားပါတယ်။ အဲဒီလို ဟက်ကာမျိုးဟာ သူကိုယ်တိုင်လည်း တစ်ချိန်က ဖြစ်ခဲ့တယ်လို့ ဆိုပါတယ်။

"သူတို့ကို ကွန်ပျူတာ တစ်လုံး၊ အင်တာနက်ချိတ်ဆက်မှု တစ်ခု၊ အကောင့်ဝင်ခွင့်အချက်အလက်တွေ တစ်ပုံနဲ့ စမ်းသပ်စရာအလုပ်တစ်ခု ပေးပြီး အခန်းတစ်ခန်းမှာ လွှတ်ထားကြည့်လိုက်။ သူတို့ဟာ ပထမဆုံး တံခါးလက်ကိုင်ကို လှုပ်မယ်၊ တံခါးတစ်ခုကို ဖွင့်လို့ရရင် နောက်တစ်ခုကို ဖွင့်ဖို့ ဆက်လုပ်မှာပဲ။ သူတို့ မကောင်းကြံချင်လို့ ဒီလိုလုပ်ချင်တာ မဟုတ်ဘူး။ စူးစမ်းပြီး စမ်းသပ်နေတာ"လို့ သူက LinkedIn မှာ ရေးပါတယ်။

OpenAI နဲ့ တခြားနည်းပညာကုမ္ပဏီကြီးတွေဟာ သူတို့ကိုယ်တိုင် ဖန်တီးထားတဲ့ အေအိုင်တွေကို ထိန်းချုပ်နိုင်အောင် မလုပ်ထားနိုင်ဘဲ သင့်တင့်တဲ့ကန့်သတ်မှုလည်း မရှိခဲ့ဘူးလို့ သောမတ်စ်အပါအဝင် တခြားကျွမ်းကျင်သူ အများအပြားက ဝေဖန်ကြပါတယ်။

အေအိုင်ဆိုင်ရာနာမည်ကြီးစာရေးသူလည်းဖြစ်၊ OpenAI ကို ပုံမှန်ဝေဖန်လေ့ရှိတဲ့ ဂယ်ရီ မားကပ်စ်က ပေါ့ကတ်စ် တစ်ခုမှာ OpenAI ဟာ သူတို့ရဲ့ အေအိုင်ကို ထိန်းချုပ်နိုင်စွမ်း ပျောက်ဆုံးနေပြီလို့ သူယုံကြည်တဲ့အကြောင်းပြောပါတယ်။ အဲဒီနောက်မှာ ကုမ္ပဏီက အပြစ်ကို အေအိုင် ဘော့ တွေ အပေါ် ပုံချပြီး ကိုယ့်ကိုယ်ကိုယ် အကြောင်းပြဖို့ ကြိုးစားနေတယ်လို့လည်း ဆိုပါတယ်။

မားကပ်စ်ကတော့ အေအိုင်ကြောင့် လူသားမျိုးနွယ်တစ်ခုလုံး ပျောက်ကွယ်သွားမယ်လို့ မယုံကြည်ပါဘူး။ ဒါပေမဲ့ အေအိုင် ဖန်တီးသူတွေအနေနဲ့ ပိုပြီး တာဝန်ခံမှုရှိဖို့ နှစ်ပေါင်းများစွာ တောင်းဆိုလာခဲ့ပြီး အခုတော့ ဥပဒေအရ တစ်စုံတစ်ရာ ဝင်ရောက်ထိန်းညှိဖို့ တောင်းဆိုနေပါတယ်။

OpenAI ရဲ့ထိန်းချုပ်မှုကနေ ဘော့တွေ လွတ်ထွက်ပြီး ဟတ်ခဲ့တဲ့ Hugging Face မှာ အရင်တုန်းက အလုပ်လုပ်ခဲ့ဖူးသူ အေအိုင်သိပ္ပံပညာရှင် ဆာရှာ လူစီယိုနီ ကလည်း အေအိုင်ကြောင့် လူတွေအပေါ် လက်တွေ့ကမ္ဘာမှာ အန္တရာယ်တချို့ ဖြစ်လာနိုင်တယ်ဆိုတဲ့စိုးရိမ်မှု ပိုများလာနေတယ်လို့ပြောပါတယ်။

သက်ဆိုင်ရာအာဏာပိုင်တွေက အရေးယူဆောင်ရွက်မှု မလုပ်ဘူးဆိုရင် အေအိုင်တွေကြောင့် လူတွေအပေါ် အမှန်တကယ် ထိခိုက်မှုတွေ ဖြစ်ပေါ်လာနိုင်တယ်လို့ သူ ရှုမြင်ပါတယ်။

"ဒီကုမ္ပဏီတွေကို ပိုပြီး စိစစ်ဖို့လိုပါတယ်။ မဟုတ်ရင် ကိုယ်စိုးရိမ်နေတဲ့အရာတွေကို ကိုယ်တိုင်ဖြစ်လာအောင် တွန်းပို့မိတဲ့အန္တရာယ်ရှိပါတယ်" လို့ သူက ပြောပါတယ်။

"အကျိုးကျေးဇူးရော အားနည်းချက်ရော ကြီးမားတဲ့အရာတစ်ခုကို ထုတ်လုပ်နေတာဆိုရင် ဆေးဝါးပဲဖြစ်ဖြစ်၊ လက်နက်ပဲဖြစ်ဖြစ် အပြန်အလှန်ထိန်းကျောင်းမှုနဲ့ စောင့်ကြည့်မှုတွေ လိုအပ်ပါတယ်။ ဥပမာ ဆေးဝါးအသစ်တွေကို အတည်ပြုဖို့ နှစ်ပေါင်းများစွာ ကြာပါတယ်။ ဒါပေမဲ့ အေအိုင် လောကမှာတော့ ငွေကြေးအကျိုးအမြတ်တွေ အများကြီး ပါဝင်နေပြီး တကယ့်စည်းမျဉ်းတွေ မရှိသေးပါဘူး။"

ဗြိတိန်နိုင်ငံရဲ့ AI Security Institute ဟာ ၂၀၂၃ ခုနှစ်မှာ ဖွဲ့စည်းခဲ့ပြီးကတည်းက နောက်ဆုံးပေါ် အေအိုင် မိုဒယ်တွေကို စမ်းသပ်စစ်ဆေးရာမှာ ရှေ့တန်းက ပါဝင်နေပါတယ်။ မကြာသေးခင်ကလည်း Anthropic က ဖန်တီးထားတဲ့ မိုဒယ် တစ်ခုကို စမ်းသပ်နေချိန် အဲဒီအဖွဲ့ကိုယ်တိုင် မမျှော်လင့်ထားတဲ့ ဖြစ်စဉ်တစ်ခု ကြုံခဲ့ပါတယ်။

အေအိုင် လုပ်ငန်းနယ်ပယ်ဟာ အေအိုင်ကို ထိန်းချုပ်နိုင်စွမ်း ဆုံးရှုံးသွားပြီလားဆိုတဲ့ မေးခွန်းကိုတော့ အဲဒီအဖွဲ့က ဖြေကြားခြင်းမရှိဘဲ "မိုဒယ်တွေကို ပိုမိုလုံခြုံစေဖို့ လုပ်ငန်းနယ်ပယ်က မိတ်ဖက်တွေနဲ့ နီးကပ်စွာ ဆက်လက်ပူးပေါင်းဆောင်ရွက်နေပါတယ်" လို့ ပြောပါတယ်။

နိုင်ငံတကာ စည်းမျဉ်းစည်းကမ်းကရော

ဗြိတိန်အပါအဝင် တချို့နိုင်ငံတွေက အေအိုင် ကုမ္ပဏီတွေကို မိုဒယ်တွေ ထိန်းချုပ်မရတော့တဲ့ အခြေအနေမျိုး ဖြစ်လာရင် စနစ်ကို ပိတ်ချနိုင်အောင် "kill switch" တစ်မျိုးမျိုး မဖြစ်မနေ ထည့်သွင်းထားဖို့ စဉ်းစားနေကြပါတယ်။

ဒါပေမဲ့ ဒီကိစ္စနဲ့ပတ်သက်တဲ့ဆွေးနွေးမှုတွေက နှေးကွေးနေပြီး အဲဒီလိုစနစ်မျိုး လက်တွေ့အကောင်အထည်ဖော်နိုင်မလားဆိုတဲ့မေးခွန်းတွေလည်း ရှိနေပါတယ်။

OpenAI နဲ့ Anthropic ရဲ့အေအိုင် အေးဂျင့်တွေဟာ ထိန်းချုပ်မရတဲ့အခြေအနေကို လနဲ့ချီ ရောက်နေခဲ့ပေမဲ့ ဘယ်သူမှ သတိမပြုမိခဲ့ကြပါဘူး။

အေအိုင် ဖွံ့ဖြိုးတိုးတက်မှုအတွက် လိုက်နာရမယ့်စည်းမျဉ်းစည်းကမ်းတွေ ချမှတ်ပေးဖို့ ဥပဒေပြုသူတွေကို တောင်းဆိုနေကြသူတွေက အေအိုင်ကုမ္ပဏီအများအပြားဖြစ်နေတာကလည်း အံ့ဩစရာကောင်းပါတယ်။

OpenAI ရဲ့သိပ္ပံဆိုင်ရာအကြီးအကဲက သူ့ ဘလော့မှာ "အနာဂတ် အေအိုင် ဖွံ့ဖြိုးတိုးတက်မှုနဲ့ပတ်သက်ပြီး နိုင်ငံတကာအဆင့် ပူးပေါင်းဆောင်ရွက်မှုဟာ ကမ္ဘာတဝန်းက အစိုးရတွေအတွက် ထိပ်တန်းဦးစားပေးတစ်ခု ဖြစ်လာဖို့လိုပါတယ်" လို့ ပြောထားပါတယ်။

Google က ဆာ ဒီမစ်စ် ဟက်ဆာဘစ် အပါအဝင် ထင်ရှားတဲ့ အေအိုင် ခေါင်းဆောင်တွေကလည်း အေအိုင်ကို ဘယ်လို ဖန်တီးတည်ဆောက်နေကြသလဲဆိုတာ ကြီးကြပ်ဖို့ နိုင်ငံတကာအဖွဲ့တစ်ခုခု ဖွဲ့စည်းဖို့ တောင်းဆိုနေကြပါတယ်။

လက်ရှိမှာတော့ နည်းပညာကုမ္ပဏီကြီးတွေဟာ အများအားဖြင့် ကိုယ့်သဘောနဲ့ကိုယ် လုပ်ကိုင်နေကြတဲ့ OpenAI ရဲ့ မကြာသေးခင်က ဖြစ်စဉ်တွေအပြီး လုပ်ခဲ့သလို "voluntary slowdowns" လို့ခေါ်တဲ့ အေအိုင် နည်းပညာပိုင်းမှာ ရှေ့ရောက်လွန်းတာမျိုး မဖြစ်အောင် လုပ်တဲ့နည်းလမ်းတွေကို သဘောဆန္ဒအလျောက် ကျင့်သုံးနေကြပါတယ်။

ကုမ္ပဏီကတော့ မိုဒယ်အသစ် မထုတ်ခင် အေအိုင်ရဲ့လူသားတန်ဖိုးတွေနဲ့ ကိုက်ညီမှုကို ပိုခိုင်မာစေဖို့ ငွေကြေးအမြောက်အမြား သုံးစွဲထားတယ်လို့ ပြောပါတယ်။

OpenAI CEO ဆမ် အယ်လ်တ်မန်ကလည်း အေအိုင် မိုဒယ် အသစ်ဟာ အရင် မိုဒယ်တွေထက် လူသားတန်ဖိုးတွေနဲ့ ပိုပြီး ကိုက်ညီတယ်လို့ သုံးစွဲသူတွေကို အာမခံပြောပါတယ်။

OpenAI နဲ့ Anthropic နှစ်ခုစလုံးဟာ အလျင်အမြန် တိုးတက်ကြီးထွားလာနေပြီး စတော့ဈေးကွက်ကနေ အံ့အားသင့်စရာ ငွေပမာဏအမြောက်အမြား ရင်းနှီးမြှုပ်နှံမှုရဖို့ နီးစပ်နေကြပါတယ်။ အဲဒီလိုဖြစ်လာရင်လည်း ဘီလျံနာအသစ်တွေ အများအပြား ပေါ်ပေါက်လာနိုင်ပါတယ်။

ဒါကြောင့် သူတို့နှစ်ဖက်စလုံးအနေနဲ့၊ ပြိုင်ဘက်ဖြစ်တဲ့ တရုတ် အေအိုင် ကုမ္ပဏီတွေနဲ့အတူ ကိုယ့်သဘောနဲ့ကိုယ် သဘောတူညီချက်တစ်ခု ရရှိအောင် လုပ်ဆောင်နိုင်ဖို့ မလွယ်ကူပါဘူး။

လက်ရှိမှာတော့ အများစုရဲ့သဘောထားက ဒီနည်းပညာလှိုင်းကို ရပ်တန့်လို့မရနိုင်ဘူး ဆိုတဲ့အမြင် ဖြစ်နေပါတယ်။

ထိပ်ပိုင်းဓာတ်ပုံ ခရစ်ဒစ် - Getty