HTTPS/SSE streaming စစ်ဆေးမှု

AI အဖြေများကို ထုတ်လုပ်နေစဉ်အတွင်း ပို့သည်။ ဤနေရာတွင် ကျွန်ုပ်တို့၏ ဆာဗာက 40 စက္ကန့်၊ 2 မိနစ် သို့မဟုတ် 5 မိနစ်ကြာ ဒေတာကို stream လုပ်ပြီး — AI စဉ်းစားနေသကဲ့သို့ တုပရန် အလယ်တွင် ရပ်နားမှု ထည့်နိုင်သည် — အားလုံး သင့်ဘရောက်ဇာသို့ အချိန်မီ ပြည့်စုံစွာ ရောက်ခြင်း ရှိမရှိ စစ်ဆေးသည်။

မစစ်ဆေးရသေးပါ40 စက္ကန့် ခန့်

AI အဖြေတစ်ခု မတုံ့မဆိုင်း ရောက်လာနိုင်သလား။

ကျွန်ုပ်တို့၏ ဆာဗာက သင့်ထံ 40 စက္ကန့်ကြာ ဒေတာကို stream လုပ်ပြီး အားလုံး အချိန်မီ ပြည့်စုံစွာ ရောက်ခြင်း ရှိမရှိ စစ်ဆေးသည်။

ကြာချိန်
စဉ်းစားချိန်

အမြန် — နေ့စဉ် မေးဖြေမှုများ၊ စက္ကန့်ဆယ်ချီအတွင်း ပြီးဆုံးသည်။

ပထမဒေတာ
—
စစ်ဆေးပြီးနောက် ပြသမည်
အရှည်ဆုံး ရပ်တန့်မှု
—
စစ်ဆေးပြီးနောက် ပြသမည်
ပြည့်စုံမှု
—
စစ်ဆေးပြီးနောက် ပြသမည်
01

လွှဲပြောင်းမှု ရလဒ်များ

ဒေတာအပိုင်းတစ်ခုချင်း ရောက်ရှိပုံ — မည်မျှမြန်စွာ စတင်သည်၊ ကြားကာလများ ပုံမှန်ဖြစ်သည်၊ အလယ်တွင် ရပ်သွားသည်၊ အပြည့်အဝ ပြီးဆုံးသည် ရှိမရှိ။

စတင်ပြီးနောက် တောင်းဆိုမှု၊ ပထမဒေတာ၊ ရပ်တန့်မှုတိုင်းနှင့် အဆုံးကို ဤနေရာတွင် အစီအစဉ်အတိုင်း ပြသမည်။

02

စစ်ဆေးပုံ

AI ဝန်ဆောင်မှုများ အဖြေကို stream လုပ်ပုံကို ပြန်လည်ဖန်တီးသည် — ဆာဗာက ပုံသေနှုန်းဖြင့် ဒေတာပို့နေစဉ် HTTPS ချိတ်ဆက်မှုတစ်ခု ဖွင့်ထားသည်။

အဆင့် 1streaming ချိတ်ဆက်မှု ဖွင့်ခြင်း

ဘရောက်ဇာက ဤဆိုက်သို့ HTTPS တောင်းဆိုမှု ပို့ပြီး ဆာဗာက text/event-stream (SSE) ပုံစံဖြင့် တုံ့ပြန်ကာ ချိတ်ဆက်မှုကို ဖွင့်ထားသည်။

အဆင့် 2ပုံသေနှုန်းဖြင့် ဒေတာ ပို့ခြင်း

ဆာဗာက ရွေးချယ်ထားသော ကြာချိန်အတွင်း ဒေတာကို stream လုပ်သည် (အမြန်နှင့် စံတွင် 250 ms တစ်ပိုင်း၊ အသေးစိတ်တွင် 500 ms တစ်ပိုင်း)။ အပိုင်းတိုင်းတွင် အစီအစဉ်နံပါတ်နှင့် ဆာဗာအချိန် ပါပြီး အဆုံးတွင် အဆုံးသတ် အမှတ်အသား ရောက်လာသည်။

အဆင့် 3အပိုင်းတစ်ခုချင်း ရောက်ရှိမှုကို မှတ်တမ်းတင်ခြင်း

ဘရောက်ဇာက အပိုင်းတစ်ခုချင်း ရောက်ရှိချိန်ကို မှတ်တမ်းတင်ပြီး လွှဲပြောင်းမှု ပြည့်စုံခြင်း ရှိမရှိ အကဲဖြတ်ရန် ပထမဒေတာ ရောက်ချိန်၊ ကြားကာလများ၊ အရှည်ဆုံး ရပ်တန့်မှုနှင့် ပျောက်နေသော အစီအစဉ်နံပါတ်များကို တွက်ချက်သည်။

ဤစစ်ဆေးမှု

စစ်ဆေးမှု အဆင့်
အမြန် · 40 စက္ကန့်
တုပ စဉ်းစားချိန်
ပိတ်ထားသည်
ပို့သည့် ကြားကာလ
250 ms
မျှော်မှန်းထားသော အပိုင်းများ
အပိုင်း 160 ခု
ရရှိသော အပိုင်းများ
စစ်ဆေးပြီးနောက် ပြသမည်
ပျောက်နေသော အပိုင်းများ
စစ်ဆေးပြီးနောက် ပြသမည်
စာမျက်နှာ နောက်ခံသို့ ရောက်သွားသည်
စစ်ဆေးပြီးနောက် ပြသမည်
စစ်ဆေးချိန်
စစ်ဆေးပြီးနောက် ပြသမည်

ချိတ်ဆက်မှု ဒေတာ

ချိတ်ဆက်မှု ပရိုတိုကော
စစ်ဆေးပြီးနောက် ပြသမည်
အကြောင်းအရာ အမျိုးအစား
text/event-stream (SSE)
စစ်ဆေးရေး endpoint
ဤဆိုက်၏ ဆာဗာ /api/v1/stream
ဒေတာ ပုံစံ
အပိုင်းတိုင်းတွင် အစီအစဉ်နံပါတ်နှင့် ဆာဗာအချိန် ပါသည်
03

ကျွန်ုပ်တို့ အကဲဖြတ်ပုံ

အပိုင်းနှစ်ခုကြား 1.5 စက္ကန့်ထက် ပိုသော ကြားကာလ (ပို့သည့် ကြားကာလ၏ 6 ဆ) ကို ရပ်တန့်မှုဟု သတ်မှတ်ပြီး အဆုံးသတ် အမှတ်အသား မရောက်မီ ချိတ်ဆက်မှု ပြတ်ခြင်းကို စောစီးစွာ ပြတ်တောက်မှုဟု သတ်မှတ်သည်။

ပြီးဆုံးသည်ဒေတာအားလုံး ထင်ရှားသော ရပ်တန့်မှု မရှိဘဲ အချိန်မီ ရောက်ရှိပြီး အဆုံးသတ် အမှတ်အသားကို လက်ခံရရှိခဲ့သည်။
ရပ်တန့်မှုများ တွေ့ရှိသည်အလယ်တွင် 1.5 စက္ကန့်ထက် ပိုသော ရပ်တန့်မှုများ ရှိခဲ့ပြီး ထို့နောက် ဒေတာ ဆက်လာသည်။ AI အဖြေများ တစ်ဝက်တွင် ရပ်ပြီးမှ ဆက်သွားမည်။
စောစီးစွာ ပြတ်တောက်မှုအဆုံးသတ် အမှတ်အသား မရောက်မီ ချိတ်ဆက်မှု ပိတ်သွားသည်။ AI အဖြေများ အဆုံးမရှိဘဲ တစ်ဝက်တွင် ကျန်ခဲ့မည်။
နှောင့်ယှက်ခံရသည်စစ်ဆေးနေစဉ် စာမျက်နှာ နောက်ခံသို့ ရောက်သွားပြီး ဘရောက်ဇာက လုပ်ဆောင်မှုကို ခေတ္တရပ်ထားနိုင်သောကြောင့် ဤရလဒ်ကို ယုံကြည်၍ မရပါ။ ထပ်စမ်းပါ။
ပထမဒေတာ ရောက်ချိန်TTFBတောင်းဆိုမှု ပို့သည်မှ ပထမအပိုင်း ရောက်သည်အထိ အချိန်။ အသွားအပြန်ကုန်ကျချိန်၊ ပရောက်စီ ထပ်ဆင့်ပို့မှုနှင့် ချိတ်ဆက်မှု တည်ဆောက်ချိန်တို့ ပါဝင်သည်။
ရောက်ရှိမှု ကြားကာလintervalဆက်တိုက်အပိုင်းနှစ်ခုကြား အချိန်။ ဆာဗာက 250 ms တစ်ပိုင်း ပို့သောကြောင့် ချောမွေ့သော ကွန်ရက်တွင် ကြားကာလများသည်လည်း 250 ms ခန့် ရှိသည်။
အရှည်ဆုံး ရပ်တန့်မှုmax gapစစ်ဆေးမှုတစ်ခုလုံးတွင် အရှည်ဆုံး စောင့်ဆိုင်းမှု။ ရံဖန်ရံခါ ခဏတာ တုံ့ခြင်းမှာ ပုံမှန်ဖြစ်ပြီး ကြာရှည်ရပ်တန့်မှုများသာ ဖတ်ရှုမှုကို ထိခိုက်သည်။
အဆုံးသတ် အမှတ်အသားendနောက်ဆုံးအပိုင်းပြီးနောက် ဆာဗာ ပို့သော အမှတ်အသား။ ၎င်းရောက်မှသာ ဒေတာကို ပြတ်တောက်မှုမရှိဘဲ အပြည့်အဝ လွှဲပြောင်းခဲ့ကြောင်း အတည်ပြုနိုင်သည်။
04

streaming ပြတ်တောက်မှုများကို လျှော့ချနည်း

စစ်ဆေးမှုက ရပ်တန့်မှု သို့မဟုတ် စောစီးစွာ ပြတ်တောက်မှုကို ပြပါက ဤအချက်သုံးချက်ကို စစ်ဆေးပါ။ အမည်အတိအကျမှာ ပရောက်စီအက်ပ်နှင့် ကွန်ရက်အလိုက် ကွဲပြားသည်။

ပိုတည်ငြိမ်သော လမ်းကြောင်းသို့ ပြောင်းပါ

ရပ်တန့်မှုနှင့် ပြတ်တောက်မှု၏ အဖြစ်အများဆုံး အကြောင်းရင်းမှာ packet ဆုံးရှုံးမှု များသော မတည်ငြိမ်သည့် ပရောက်စီ node သို့မဟုတ် လမ်းကြောင်း ဖြစ်သည်။ node ပြောင်းပြီး ထပ်စစ်ကာ နှိုင်းယှဉ်ပါ။

အဖြေများကို buffer လုပ်သော ကြားခံကိရိယာများကို စစ်ဆေးပါ

ကုမ္ပဏီ gateway များ၊ လုံခြုံရေးဆော့ဖ်ဝဲအချို့၏ HTTPS စကင်ဖတ်ခြင်း သို့မဟုတ် ပရောက်စီ ဆက်တင်အချို့သည် streaming အဖြေကို ဘရောက်ဇာသို့ မပေးမီ တစ်တုံးတည်း စုစည်းသည်။ ၎င်းသည် ကြာရှည်ရပ်တန့်ပြီးနောက် အားလုံး တစ်ပြိုင်နက် ရောက်လာသကဲ့သို့ မြင်ရသည်။

စစ်ဆေးနေစဉ် စာမျက်နှာကို ရှေ့တွင် ထားပါ

ဘရောက်ဇာများသည် နောက်ခံစာမျက်နှာများ၏ ဦးစားပေးကို လျှော့ချပြီး Wi-Fi ပြောင်းခြင်း သို့မဟုတ် စက် အိပ်ယာဝင်ခြင်းကလည်း ချိတ်ဆက်မှုကို ပြတ်တောက်စေသည်။ စစ်ဆေးနေစဉ် စာမျက်နှာကို ဖွင့်ထားပြီး ကွန်ရက်ကို တည်ငြိမ်အောင် ထားပါ။

05

မေးလေ့ရှိသော မေးခွန်းများ

streaming၊ စစ်ဆေးပုံနှင့် ရလဒ်ဖတ်ပုံဆိုင်ရာ မေးလေ့ရှိသော မေးခွန်းများ။

HTTPS streaming (SSE) ဆိုသည်မှာ အဘယ်နည်း။

ပုံမှန်တောင်းဆိုမှုသည် ဆာဗာက အားလုံး အဆင်သင့်ဖြစ်မှ တစ်ကြိမ်တည်း ပြန်ပေးရန် စောင့်သည်။ streaming သည် ဆာဗာကို ထုတ်လုပ်နေစဉ် ပို့ခွင့်ပေးပြီး ဘရောက်ဇာကို လက်ခံနေစဉ် ပြသခွင့်ပေးသည်။ SSE (Server-Sent Events) သည် ယင်းကို ပြုလုပ်ရန် အသုံးအများဆုံး နည်းလမ်းဖြစ်ပြီး ဒေတာကို text/event-stream ပုံစံဖြင့် တစ်ပိုင်းချင်း ပို့သည်။

streaming သည် AI ဝန်ဆောင်မှုများနှင့် မည်သို့ ဆက်စပ်သနည်း။

ChatGPT နှင့် Claude ကဲ့သို့ AI ဝန်ဆောင်မှုများသည် အဖြေများကို token တစ်ခုချင်း ထုတ်လုပ်ပြီး ချက်ချင်း ပို့သည်။ သင့်ကွန်ရက်က စက္ကန့်ဆယ်ချီ ဆက်တိုက်ထုတ်လွှင့်မှုကို မထိန်းနိုင်ပါက အဖြေများ တစ်ဝက်တွင် ရပ်သွားခြင်း သို့မဟုတ် လုံးဝ ပြတ်သွားခြင်း ဖြစ်မည်။

ပထမဒေတာ ရောက်ချိန် မည်မျှသည် ပုံမှန်ဖြစ်သနည်း။

သင်နှင့် ဤဆိုက်၏ ဆာဗာကြား ကွန်ရက်ကုန်ကျချိန်ကို တိုင်းတာပြီး AI မော်ဒယ် စဉ်းစားချိန် မပါဝင်ပါ။ မီလီစက္ကန့် ရာဂဏန်း သို့မဟုတ် ထို့ထက်နည်းခြင်းမှာ ပုံမှန်ဖြစ်ပြီး အလွန်ပိုများပါက ပုံမှန်အားဖြင့် ရှည်လျား သို့မဟုတ် နှေးကွေးသော ပရောက်စီ လမ်းကြောင်းကို ညွှန်ပြသည်။

ရပ်တန့်မှုများ အဘယ်ကြောင့် ဖြစ်သနည်း။

အဖြစ်များသော အကြောင်းရင်းများမှာ ပရောက်စီ node တွင် packet ဆုံးရှုံးမှု သို့မဟုတ် ပိတ်ဆို့မှု၊ လမ်းကြောင်းပြောင်းလဲမှု၊ အဖြေများကို buffer လုပ်သော ကြားခံကိရိယာများနှင့် စက်ပေါ်ရှိ မတည်ငြိမ်သော ကွန်ရက် ဖြစ်သည်။ ရံဖန်ရံခါ ခဏတာ ရပ်တန့်မှုမှာ အရေးမကြီးဘဲ မကြာခဏ သို့မဟုတ် ကြာရှည် ရပ်တန့်မှုများကိုသာ ပြင်ဆင်ရန် လိုသည်။

«နှောင့်ယှက်ခံရသည်» ဟု အဘယ်ကြောင့် ပြသနည်း။

စစ်ဆေးနေစဉ် စာမျက်နှာ နောက်ခံသို့ ရောက်သွားခဲ့သည်။ ဘရောက်ဇာများသည် နောက်ခံစာမျက်နှာများ၏ ဦးစားပေးကို လျှော့ချသောကြောင့် မှတ်တမ်းတင်ထားသော ရောက်ရှိချိန်များ မတိကျဘဲ ဤရလဒ်ကို ကောက်ချက်အဖြစ် မသုံးပါ။ စာမျက်နှာကို ရှေ့တွင်ထားပြီး ထပ်စစ်ပါ။

စစ်ဆေးမှုက ဒေတာ မည်မျှ သုံးသနည်း။

အမြန်အဆင့်က အပိုင်း 160 ခု၊ အသေးစိတ်အဆင့်က 600 ခု ပို့ပြီး တစ်ပိုင်းလျှင် byte တစ်ရာ နှစ်ရာခန့် ရှိသည် — အများဆုံး 100 KB ကျော်ရုံသာ။ ရလဒ်များကို သင့်ဘရောက်ဇာတွင်သာ တွက်ချက်ပြီး ဤဆိုက်က မသိမ်းဆည်းပါ။

စစ်ဆေးရေး endpoint: ဤဆိုက်၏ ဆာဗာ · /api/v1/streamရပ်တန့်မှု သတ်မှတ်ချက်: 1.5 s (ပို့သည့် ကြားကာလ၏ 6 ဆ)

ဆက်စစ်ဆေးပါ

ဤစစ်ဆေးမှုများကို သီးခြားလုပ်ဆောင်သည် — စတင်ရန် သက်ဆိုင်ရာ စာမျက်နှာကို ဖွင့်ပါ။