လွှဲပြောင်းမှု ရလဒ်များ
ဒေတာအပိုင်းတစ်ခုချင်း ရောက်ရှိပုံ — မည်မျှမြန်စွာ စတင်သည်၊ ကြားကာလများ ပုံမှန်ဖြစ်သည်၊ အလယ်တွင် ရပ်သွားသည်၊ အပြည့်အဝ ပြီးဆုံးသည် ရှိမရှိ။
စတင်ပြီးနောက် တောင်းဆိုမှု၊ ပထမဒေတာ၊ ရပ်တန့်မှုတိုင်းနှင့် အဆုံးကို ဤနေရာတွင် အစီအစဉ်အတိုင်း ပြသမည်။
စစ်ဆေးပုံ
AI ဝန်ဆောင်မှုများ အဖြေကို stream လုပ်ပုံကို ပြန်လည်ဖန်တီးသည် — ဆာဗာက ပုံသေနှုန်းဖြင့် ဒေတာပို့နေစဉ် HTTPS ချိတ်ဆက်မှုတစ်ခု ဖွင့်ထားသည်။
ဘရောက်ဇာက ဤဆိုက်သို့ HTTPS တောင်းဆိုမှု ပို့ပြီး ဆာဗာက text/event-stream (SSE) ပုံစံဖြင့် တုံ့ပြန်ကာ ချိတ်ဆက်မှုကို ဖွင့်ထားသည်။
ဆာဗာက ရွေးချယ်ထားသော ကြာချိန်အတွင်း ဒေတာကို stream လုပ်သည် (အမြန်နှင့် စံတွင် 250 ms တစ်ပိုင်း၊ အသေးစိတ်တွင် 500 ms တစ်ပိုင်း)။ အပိုင်းတိုင်းတွင် အစီအစဉ်နံပါတ်နှင့် ဆာဗာအချိန် ပါပြီး အဆုံးတွင် အဆုံးသတ် အမှတ်အသား ရောက်လာသည်။
ဘရောက်ဇာက အပိုင်းတစ်ခုချင်း ရောက်ရှိချိန်ကို မှတ်တမ်းတင်ပြီး လွှဲပြောင်းမှု ပြည့်စုံခြင်း ရှိမရှိ အကဲဖြတ်ရန် ပထမဒေတာ ရောက်ချိန်၊ ကြားကာလများ၊ အရှည်ဆုံး ရပ်တန့်မှုနှင့် ပျောက်နေသော အစီအစဉ်နံပါတ်များကို တွက်ချက်သည်။
ဤစစ်ဆေးမှု
- စစ်ဆေးမှု အဆင့်
- အမြန် · 40 စက္ကန့်
- တုပ စဉ်းစားချိန်
- ပိတ်ထားသည်
- ပို့သည့် ကြားကာလ
- 250 ms
- မျှော်မှန်းထားသော အပိုင်းများ
- အပိုင်း 160 ခု
- ရရှိသော အပိုင်းများ
- စစ်ဆေးပြီးနောက် ပြသမည်
- ပျောက်နေသော အပိုင်းများ
- စစ်ဆေးပြီးနောက် ပြသမည်
- စာမျက်နှာ နောက်ခံသို့ ရောက်သွားသည်
- စစ်ဆေးပြီးနောက် ပြသမည်
- စစ်ဆေးချိန်
- စစ်ဆေးပြီးနောက် ပြသမည်
ချိတ်ဆက်မှု ဒေတာ
- ချိတ်ဆက်မှု ပရိုတိုကော
- စစ်ဆေးပြီးနောက် ပြသမည်
- အကြောင်းအရာ အမျိုးအစား
- text/event-stream (SSE)
- စစ်ဆေးရေး endpoint
- ဤဆိုက်၏ ဆာဗာ /api/v1/stream
- ဒေတာ ပုံစံ
- အပိုင်းတိုင်းတွင် အစီအစဉ်နံပါတ်နှင့် ဆာဗာအချိန် ပါသည်
ကျွန်ုပ်တို့ အကဲဖြတ်ပုံ
အပိုင်းနှစ်ခုကြား 1.5 စက္ကန့်ထက် ပိုသော ကြားကာလ (ပို့သည့် ကြားကာလ၏ 6 ဆ) ကို ရပ်တန့်မှုဟု သတ်မှတ်ပြီး အဆုံးသတ် အမှတ်အသား မရောက်မီ ချိတ်ဆက်မှု ပြတ်ခြင်းကို စောစီးစွာ ပြတ်တောက်မှုဟု သတ်မှတ်သည်။
TTFBတောင်းဆိုမှု ပို့သည်မှ ပထမအပိုင်း ရောက်သည်အထိ အချိန်။ အသွားအပြန်ကုန်ကျချိန်၊ ပရောက်စီ ထပ်ဆင့်ပို့မှုနှင့် ချိတ်ဆက်မှု တည်ဆောက်ချိန်တို့ ပါဝင်သည်။intervalဆက်တိုက်အပိုင်းနှစ်ခုကြား အချိန်။ ဆာဗာက 250 ms တစ်ပိုင်း ပို့သောကြောင့် ချောမွေ့သော ကွန်ရက်တွင် ကြားကာလများသည်လည်း 250 ms ခန့် ရှိသည်။max gapစစ်ဆေးမှုတစ်ခုလုံးတွင် အရှည်ဆုံး စောင့်ဆိုင်းမှု။ ရံဖန်ရံခါ ခဏတာ တုံ့ခြင်းမှာ ပုံမှန်ဖြစ်ပြီး ကြာရှည်ရပ်တန့်မှုများသာ ဖတ်ရှုမှုကို ထိခိုက်သည်။endနောက်ဆုံးအပိုင်းပြီးနောက် ဆာဗာ ပို့သော အမှတ်အသား။ ၎င်းရောက်မှသာ ဒေတာကို ပြတ်တောက်မှုမရှိဘဲ အပြည့်အဝ လွှဲပြောင်းခဲ့ကြောင်း အတည်ပြုနိုင်သည်။streaming ပြတ်တောက်မှုများကို လျှော့ချနည်း
စစ်ဆေးမှုက ရပ်တန့်မှု သို့မဟုတ် စောစီးစွာ ပြတ်တောက်မှုကို ပြပါက ဤအချက်သုံးချက်ကို စစ်ဆေးပါ။ အမည်အတိအကျမှာ ပရောက်စီအက်ပ်နှင့် ကွန်ရက်အလိုက် ကွဲပြားသည်။
ရပ်တန့်မှုနှင့် ပြတ်တောက်မှု၏ အဖြစ်အများဆုံး အကြောင်းရင်းမှာ packet ဆုံးရှုံးမှု များသော မတည်ငြိမ်သည့် ပရောက်စီ node သို့မဟုတ် လမ်းကြောင်း ဖြစ်သည်။ node ပြောင်းပြီး ထပ်စစ်ကာ နှိုင်းယှဉ်ပါ။
ကုမ္ပဏီ gateway များ၊ လုံခြုံရေးဆော့ဖ်ဝဲအချို့၏ HTTPS စကင်ဖတ်ခြင်း သို့မဟုတ် ပရောက်စီ ဆက်တင်အချို့သည် streaming အဖြေကို ဘရောက်ဇာသို့ မပေးမီ တစ်တုံးတည်း စုစည်းသည်။ ၎င်းသည် ကြာရှည်ရပ်တန့်ပြီးနောက် အားလုံး တစ်ပြိုင်နက် ရောက်လာသကဲ့သို့ မြင်ရသည်။
ဘရောက်ဇာများသည် နောက်ခံစာမျက်နှာများ၏ ဦးစားပေးကို လျှော့ချပြီး Wi-Fi ပြောင်းခြင်း သို့မဟုတ် စက် အိပ်ယာဝင်ခြင်းကလည်း ချိတ်ဆက်မှုကို ပြတ်တောက်စေသည်။ စစ်ဆေးနေစဉ် စာမျက်နှာကို ဖွင့်ထားပြီး ကွန်ရက်ကို တည်ငြိမ်အောင် ထားပါ။
မေးလေ့ရှိသော မေးခွန်းများ
streaming၊ စစ်ဆေးပုံနှင့် ရလဒ်ဖတ်ပုံဆိုင်ရာ မေးလေ့ရှိသော မေးခွန်းများ။
HTTPS streaming (SSE) ဆိုသည်မှာ အဘယ်နည်း။
ပုံမှန်တောင်းဆိုမှုသည် ဆာဗာက အားလုံး အဆင်သင့်ဖြစ်မှ တစ်ကြိမ်တည်း ပြန်ပေးရန် စောင့်သည်။ streaming သည် ဆာဗာကို ထုတ်လုပ်နေစဉ် ပို့ခွင့်ပေးပြီး ဘရောက်ဇာကို လက်ခံနေစဉ် ပြသခွင့်ပေးသည်။ SSE (Server-Sent Events) သည် ယင်းကို ပြုလုပ်ရန် အသုံးအများဆုံး နည်းလမ်းဖြစ်ပြီး ဒေတာကို text/event-stream ပုံစံဖြင့် တစ်ပိုင်းချင်း ပို့သည်။
streaming သည် AI ဝန်ဆောင်မှုများနှင့် မည်သို့ ဆက်စပ်သနည်း။
ChatGPT နှင့် Claude ကဲ့သို့ AI ဝန်ဆောင်မှုများသည် အဖြေများကို token တစ်ခုချင်း ထုတ်လုပ်ပြီး ချက်ချင်း ပို့သည်။ သင့်ကွန်ရက်က စက္ကန့်ဆယ်ချီ ဆက်တိုက်ထုတ်လွှင့်မှုကို မထိန်းနိုင်ပါက အဖြေများ တစ်ဝက်တွင် ရပ်သွားခြင်း သို့မဟုတ် လုံးဝ ပြတ်သွားခြင်း ဖြစ်မည်။
ပထမဒေတာ ရောက်ချိန် မည်မျှသည် ပုံမှန်ဖြစ်သနည်း။
သင်နှင့် ဤဆိုက်၏ ဆာဗာကြား ကွန်ရက်ကုန်ကျချိန်ကို တိုင်းတာပြီး AI မော်ဒယ် စဉ်းစားချိန် မပါဝင်ပါ။ မီလီစက္ကန့် ရာဂဏန်း သို့မဟုတ် ထို့ထက်နည်းခြင်းမှာ ပုံမှန်ဖြစ်ပြီး အလွန်ပိုများပါက ပုံမှန်အားဖြင့် ရှည်လျား သို့မဟုတ် နှေးကွေးသော ပရောက်စီ လမ်းကြောင်းကို ညွှန်ပြသည်။
ရပ်တန့်မှုများ အဘယ်ကြောင့် ဖြစ်သနည်း။
အဖြစ်များသော အကြောင်းရင်းများမှာ ပရောက်စီ node တွင် packet ဆုံးရှုံးမှု သို့မဟုတ် ပိတ်ဆို့မှု၊ လမ်းကြောင်းပြောင်းလဲမှု၊ အဖြေများကို buffer လုပ်သော ကြားခံကိရိယာများနှင့် စက်ပေါ်ရှိ မတည်ငြိမ်သော ကွန်ရက် ဖြစ်သည်။ ရံဖန်ရံခါ ခဏတာ ရပ်တန့်မှုမှာ အရေးမကြီးဘဲ မကြာခဏ သို့မဟုတ် ကြာရှည် ရပ်တန့်မှုများကိုသာ ပြင်ဆင်ရန် လိုသည်။
«နှောင့်ယှက်ခံရသည်» ဟု အဘယ်ကြောင့် ပြသနည်း။
စစ်ဆေးနေစဉ် စာမျက်နှာ နောက်ခံသို့ ရောက်သွားခဲ့သည်။ ဘရောက်ဇာများသည် နောက်ခံစာမျက်နှာများ၏ ဦးစားပေးကို လျှော့ချသောကြောင့် မှတ်တမ်းတင်ထားသော ရောက်ရှိချိန်များ မတိကျဘဲ ဤရလဒ်ကို ကောက်ချက်အဖြစ် မသုံးပါ။ စာမျက်နှာကို ရှေ့တွင်ထားပြီး ထပ်စစ်ပါ။
စစ်ဆေးမှုက ဒေတာ မည်မျှ သုံးသနည်း။
အမြန်အဆင့်က အပိုင်း 160 ခု၊ အသေးစိတ်အဆင့်က 600 ခု ပို့ပြီး တစ်ပိုင်းလျှင် byte တစ်ရာ နှစ်ရာခန့် ရှိသည် — အများဆုံး 100 KB ကျော်ရုံသာ။ ရလဒ်များကို သင့်ဘရောက်ဇာတွင်သာ တွက်ချက်ပြီး ဤဆိုက်က မသိမ်းဆည်းပါ။
စစ်ဆေးရေး endpoint: ဤဆိုက်၏ ဆာဗာ · /api/v1/streamရပ်တန့်မှု သတ်မှတ်ချက်: 1.5 s (ပို့သည့် ကြားကာလ၏ 6 ဆ)