Haniaethol
Wrth i ddeallusrwydd artiffisial (AI) symud ymlaen yn gyflym, mae rhwydweithiau canolfannau data traddodiadol yn wynebu heriau mawr wrth gludo traffig AI. Gall defnyddio lled band uchel a nifer fach o lifoedd eliffant wneud cydbwyso llwyth confensiynol fesul-yn aneffeithiol, gan arwain at dagfeydd a cholli pecynnau sy'n cynyddu'n sylweddol hyfforddiant model AI ac amseroedd cwblhau swyddi. Mae'r papur gwyn hwn yn archwilio technoleg llwybro ddeallus ddeinamig sy'n cyfuno-ymwybyddiaeth o amser go iawn â{- gwneud penderfyniadau deallus. Mae'n defnyddio llwybr-mesur ansawdd, BGP wedi'i ymestyn-cydamseru nodweddion,-llwybr cost wedi'i bwysoli'n ddeinamig (WCMP), tynnu llwybr annormal, a
Flowlet-cydbwyso llwyth ceir (ALB) i wella amserlennu traffig mewn amgylcheddau AI. Mae'r dyluniad hefyd yn defnyddio rhithwiroli i ddarparu ynysu tenantiaid lluosog ac yn cynnig senarios cais a chanllawiau cynllunio ar gyfer rhwydweithiau canolfan ddata AI effeithlon, sefydlog a deallus.
Cyflwyniad: Esblygiad Rhwydwaith yn yr AI Oes
Pam mae Rhwydweithiau Traddodiadol yn Ymladd ag AI Traffig
Mewn rhwydweithiau canolfan ddata traddodiadol, mae nifer fawr o lifoedd bach yn galluogi cydbwyso fesul llwyth llif i gyflawni dosbarthiad derbyniol ac osgoi tagfeydd hyd yn oed heb ymwybyddiaeth amser real o amodau rhwydwaith. Mae traffig AI yn wahanol iawn: mae'r defnydd o led band yn hynod o uchel ac mae traffig yn aml yn cael ei ddominyddu gan ychydig o lifau eliffant yn unig. Felly gall gwrthdrawiadau hash roi llifoedd mawr lluosog ar yr un llwybr tra bod llwybrau eraill yn parhau i fod yn cael eu tanddefnyddio. Unwaith y bydd y pecyn yn cael ei golli, gall amser cwblhau'r llwyth gwaith AI cyfan gynyddu'n sylweddol. Am y rheswm hwn, mae'r diwydiant yn canolbwyntio fwyfwy ar algorithmau cydbwyso llwyth optimaidd ar gyfer ffabrigau AI fel bod traffig yn cael ei ddosbarthu'n fwy cyfartal ar draws llwybrau lluosog .
Ffigur 1. Cymhariaeth o draffig llif eliffant AI a -traffig llif bach traddodiadol.
Cyfuno Ymwybyddiaeth Ddeinamig â-Gwneud Penderfyniadau Deallus
Mae llwybro deallus deinamig yn dechnoleg cydbwyso sy'n seiliedig ar ymwybyddiaeth-llwyth. Mae'n defnyddio ansawdd llwybr sy'n cael ei synhwyro gan switshis yn y ffabrig i addasu dewis llwybr lleol ac mae'n cefnogi cydbwyso llwyth â phwysau deinamig. Wedi'i adeiladu ar BGP, mae'r dechnoleg yn diffinio priodoledd cymunedol estynedig newydd.
Defnyddir mesuriadau manylder aml-ddimensiwn, uchel i werthuso ansawdd llwybrau, a chaiff y canlyniad ei ledaenu trwy BGP i arwain y traffig sy'n symud ymlaen wedyn. Mae hyn yn gwella dosbarthiad llwyth rhwydwaith eang ac yn lleihau amser ymateb rhaglenni [1].
Ffigur 2. Llif gwaith ymwybyddiaeth, penderfyniadau a gweithredu deinamig.
Technolegau Craidd: Amserlennu Traffig Deallus
Mae dulliau cydbwyso llwyth rhwydwaith prif ffrwd-yn cynnwys:
- Fesul{0}}lif ECMP: Y dull mwyaf cyffredin, yn seiliedig ar stwnsh pum-tuple. Mae'n gweithio'n dda pan fo llawer o lifau ac yn cadw trefn pecynnau, ond gall gwrthdrawiadau hash gynhyrchu cydbwysedd gwael pan fo'r cyfrif llif yn isel, fel mewn hyfforddiant AI [1].
- Cydbwyso'n seiliedig ar liflenni: Yn dibynnu ar gyfluniad cywir y bwlch rhyng-lif. Mae ffurfweddiad cywir yn anodd pan fo -latency lefel llwybr byd-eang yn anhysbys [1].
- Fesul{0}}pecyn ECMP: Yn darparu cydbwysedd damcaniaethol rhagorol ond gall greu ail-archebu pecyn helaeth yn y derbynnydd [1].
Mae'r dull llwybro deallus deinamig a ddefnyddir gan switshis XingRongyuan CX-N Series RoCE (Seiliedig ar SONiC-yn seiliedig ar) yn cyfuno cydbwyso fesul{2}}lif ECMP a Flowlet{-. Mae'n cyflwyno WCMP deinamig (Multipath Cost wedi'i Pwysoli) ac ALB (Cydbwyso Llwyth Auto) [1] yn seiliedig ar Flowlet.
Mesur Ansawdd y Llwybr
Mae'r system yn gwerthuso ansawdd llwybr rhwydwaith gan ddefnyddio ffactorau sy'n effeithio'n gryf ar ffabrigau clwstwr AI, gan gynnwys defnyddio lled band, defnyddio ciw, a hwyrni anfon ymlaen.
Cownteri Ystadegol
Mae lled band a defnydd ciw yn cael eu mesur trwy gownteri caledwedd ASIC gyda chywirdeb ar y lefel can-milieiliadau. Mae'r porth cofnodion ASIC-anfon ymlaen a chiw-cyfrifiaduron anfon ymlaen mewn amser real. Mae'r awyren reoli SONiC yn darllen y rhifyddion trwy'r rhyngwyneb SAI yn is-ail gywirdeb ac yn eu storio yn Redis. Mae'r broses rheoli llwybro yn gwerthuso ansawdd rhyngwyneb gan ddefnyddio'r rhifyddion hyn ac yn hysbysebu'r canlyniad trwy BGP. Er mwyn cyfyngu ar-llwyth awyren, mae hysbysebion yn cael eu hanfon ar adegau ail lefel ar hyn o bryd, gyda chyfartaledd pwysol yn cael ei gymhwyso i samplau lluosog; samplau mwy diweddar yn derbyn pwysau uwch.
Yn-Band Telemetry
Mae mesur oedi wrth anfon ymlaen yn seiliedig ar INT (In-band Network Telemetry) a gall gyrraedd manwl gywirdeb lefel nanosecond. Mae HDC (Cipio Oedi Uchel) yn dal pecynnau sy'n profi hwyrni uchel y tu mewn i'r ASIC. Pan fydd pecyn yn mynd dros drothwy oedi diffiniedig defnyddiwr, mae'r switsh yn anfon y 150 beit cyntaf o'r pecyn gwreiddiol ynghyd â metadata, gan gynnwys porth mynediad, porth allanfa, a hwyrni, at gasglwr. Yn y dyluniad hwn, mae'r CPU yn gweithredu fel y casglwr a'r dadansoddwr HDC, gan alluogi mesuriadau oedi manwl uchel a gwerthusiad ansawdd llwybr cywirach.
Ffigur 3. Llwybr-lluosogi ansawdd a gosod WCMP.
Mae'r dechnoleg yn defnyddio priodoledd cymunedol estynedig BGP newydd, y Path Bandwidth Extended Community, i ddangos ansawdd cyfanredol llwybr i gyrchfan. Beit trefn uchel y maes math estynedig yw 0x00 a'r beit archeb isel yw 0x05. Yn y maes gwerth, mae'r is-faes Global Administrator yn cynrychioli'r rhif UG. Mae ansawdd y llwybr wedi'i amgodio mewn pedwar beit gan ddefnyddio fformat -pwynt symudol IEEE a'i fynegi mewn GB/s .
Pan fydd NIC1 yn cyfathrebu â NIC2, mae NIC2 yn hysbysebu ei gyfeiriad IP i Leaf2 yn gyntaf. Mae Leaf2 yn hysbysebu'r cyfeiriad i'r Asgwrn Cefn ynghyd â'r ddolen-gwerth ansawdd tuag at NIC2 wedi'i luosi â'r pwysau downlink Leaf2. Mae'r Asgwrn Cefn yn ychwanegu ei ansawdd cyswllt pwysol ei hun ac yn trosglwyddo'r gwerth cronedig i Leaf1. Mae Leaf1 yn crynhoi ansawdd y llwybr ac yn gosod llwybrau sy'n arwain symud ymlaen. Mewn ffabrig dwy haen Leaf-Spine, mae pyrth yn cael eu dosbarthu fel dolenni i fyny Leaf, dolenni i lawr y Dail, a phorthladdoedd asgwrn cefn, gyda chyfernodau cyfrifo ffurfweddadwy ar gyfer pob dosbarth.
WCMP deinamig
Mae cydbwyso llwyth yn dosbarthu traffig ar draws dolenni lluosog. Mewn amgylcheddau AI, mae hyn yn hanfodol ar gyfer adeiladu ffabrig Ethernet di-golled gydag ychydig iawn o golled pecynnau, hwyrni, a diraddio trwygyrch. ECMP yw'r mecanwaith confensiynol mewn canolfannau data. Mae WCMP yn ymestyn ECMP trwy ddosbarthu
traffig yn gymesur ar draws cysylltiadau. Mewn llwybro deallus deinamig, mae pwysau WCMP yn cael eu haddasu mewn amser real yn ôl ansawdd y llwybr. Er enghraifft, os oes dau lwybr rhwng NIC1 a NIC2, gall y system gyfrifo cymhareb 3:7. Wrth i draffig newid, mae gwybodaeth ansawdd llwybr wedi'i diweddaru yn cael ei lledaenu trwy BGP i bob switsh Leaf, lle mae llwybrau deinamig WCMP yn cael eu cynhyrchu i arwain anfon ymlaen .
Tynnu Llwybr Annormal
Pan fydd ansawdd cyfanredol llwybr yn disgyn o dan drothwy y cytunwyd arno, ystyrir bod y llwybr yn annefnyddiadwy ar gyfer y llwyth gwaith AI a chaiff ei ddileu o'i anfon ymlaen. Mae'r llwybrau sy'n weddill yn parhau i gludo traffig drwy WCMP deinamig. Unwaith y bydd y llwybr yn dychwelyd i normal, caiff ei adfer. Er y gallai hyn olygu na chaiff rhywfaint o gapasiti ei ddefnyddio dros dro, mae'n atal tagfeydd mwy difrifol a cholli pecynnau [1].
Cydbwyso Llwyth Deallus (ALB)
Mae ALB yn darparu dosbarthiad llwyth yn seiliedig ar Flowlet. Mae'r ASIC yn mesur llwyth a hwyrni ar wahanol borthladdoedd mewn amser real ac yn cyfeirio pob Flowlet i'r cyswllt gyda llwyth is neu oedi is. Mae hyn yn ychwanegu-amserlennu mwy manwl ar ben ECMP traddodiadol. Mae ALB hefyd yn cefnogi methiant porthladd ac yn ailddosbarthu traffig yn awtomatig pan fydd cyswllt allanfa yn methu [1].
Rhithwiroli
Yn aml mae angen cefnogaeth aml-denant ar rwydweithiau pen blaen fel y gellir dyrannu adnoddau GPU gwahanol i wahanol ddefnyddwyr. Mae'r datrysiad yn defnyddio VRF (Rhith Llwybro a Anfon) i ynysu tenantiaid, gydag un VRF wedi'i neilltuo i bob defnyddiwr. Mae is-rwydweithiau cysylltiedig â GPU-yn cael eu gosod yn VRF y defnyddiwr, ac mae PRE ACLs yn yr ASIC yn dosbarthu traffig mynediad fel bod traffig pob defnyddiwr yn cael ei anfon ymlaen o fewn y VRF cyfatebol [1] yn unig.
Senarios Cais
1.How Dynamic WCMP Amsugno Ymchwydd Traffig
Ar gyfer ffabrig gyda phorthladdoedd GPU 256 x 400G, gellir dylunio pensaernïaeth Clos dwy haen gyda chymhareb downlink 1:1 i{6}}uplink i gynnal trwybwn uchel, lled band uchel, a chynhwysedd cymesur. Mae modelau cynnyrch addas yn cynnwys y XingRongyuan CX864E-N neu CX732Q-N [1]. O dan ECMP confensiynol, gall nifer fach o lifau eliffant AI stwnsio i'r un Asgwrn Cefn, gan achosi tagfeydd uplink neu golli pecynnau. Mae WCMP deinamig yn addasu dosbarthiad traffig yn barhaus yn ôl-ansawdd llwybr amser real, gan leihau ymchwyddiadau traffig ac osgoi tagfeydd [1].
2.Flowlet-Cydbwyso Llwyth Lefel
Yn yr un ffabrig GPU 256 x 400G, nid yw WCMP deinamig yn gwasanaethu pob dyfais na llwyth gwaith orau. Gall y switsh ddewis ALB seiliedig ar Flowlet yn ddeinamig. Mae ALB yn mesur llwyth a hwyrni cysylltiadau yn y grŵp ECMP ac yn anfon Flowlets i ddolenni gyda llai o ddefnydd neu oedi. Os bydd rhyngwyneb yn cael ei orlwytho neu os bydd oedi wrth anfon ymlaen yn codi, mae'r ASIC yn osgoi'r ffordd honno'n awtomatig nes bod yr amodau'n dychwelyd i'r arferol [1].
Cynllunio a Dylunio Rhwydwaith AI
Yn gyffredinol, mae gwasanaethau AI yn cynnwys tri cham: casglu a rhagbrosesu data, hyfforddiant model, a chasgliad AI. Mae pob cam yn gosod gofynion gwahanol ar y rhwydwaith.
1.Casglu Data a Rhagbrosesu
Rhaid i rwydwaith hyfforddi byd-eang casglu a phrosesu data ddarparu adnoddau IP cyhoeddus a lled band eang ar raddfa fawr fel y gellir casglu setiau data crai enfawr yn effeithlon o'r rhyngrwyd byd-eang. Rhaid i'r dyluniad sicrhau trosglwyddiad diogel a sefydlog tra'n gwella perfformiad cydgasglu data a rhagbrosesu [2].
1.1 Segmentu VPC
Dylai dyluniad VPC ar gyfer casglu data sy'n seiliedig ar gwmwl ddilyn yr egwyddorion lleiaf o fraint, ynysu haenog, rheolaeth diogelwch, ac egwyddorion graddadwyedd elastig. Gellir defnyddio naill ai VPCs lluosog neu is-rwydweithiau lluosog o fewn un VPC [2].
- Segment fesul cam gwasanaeth: Defnyddio casglu data, rhagbrosesu, storio, hyfforddi, a chasgliad mewn is-rwydweithiau neu VPCs ar wahân. Gosod pwyntiau mynediad casglu mewn VPC DMZ neu is-rwydwaith cyhoeddus; gosod data rhagbrosesu a data dros dro mewn VPC prosesu pwrpasol; gosod data crai sensitif a hyfforddiant deallusrwydd artiffisial mewn VPC diogelwch uchel heb fynediad uniongyrchol i'r cyhoedd.
- Ynyswch yn ôl lefel diogelwch: Creu VPCs neu is-rwydweithiau diogelwch uchel-, canolig, ac isel-a defnyddio grwpiau diogelwch, ACLs rhwydwaith, a chysylltedd preifat i reoli traffig is-rwydwaith traws{3}VPC a thraws-.
- Unigolyn fesul tenant neu brosiect: Neilltuo VPCs ar wahân i wahanol denantiaid neu brosiectau i ynysu adnoddau, rhwydweithiau a data.
1.2 Rhwydwaith Ymadael Casglu Data
Porth NAT: Defnyddiwch gronfa o EIPs a SNAT trwy borth NAT, gan ganiatáu i raglenni casglu gael mynediad i'r rhyngrwyd o gyfeiriadau IP cyhoeddus a ddewiswyd ar hap.
Hunan{0}}procsi: Defnyddio gweinyddwyr dirprwy sy'n cynnal mapiau rhwng prosesau casglu a chyfeiriadau IP cyhoeddus, ac yn dosbarthu cais casgliad sengl ar draws dirprwyon lluosog.
Darparwr gwasanaeth IP: Cysylltwch â darparwr gwasanaeth IP dros rwydwaith preifat y cwmwl am gost is, diogelwch rheoledig, ac ansawdd sefydlog [2].
1.3 Cydgasglu Data a Rhagbrosesu ar Draws-Rhanbarth
Dewiswch y rhanbarth OSS yn ôl y{0}}cynllun clwstwr rhagbrosesu a chreu-VPC agregu data yn yr un rhanbarth. Creu Llwybrydd Tramwy (TR) ym mhob rhanbarth, cysylltu VPCs lleol, a rhyng-gysylltu'r TRs fel y gall VPCs casglu rhanbarthol gael mynediad uniongyrchol i'r OSS canolog. Yna gall gwasanaethau fel PAI-iTAG, MaxCompute, a Flink berfformio labelu data a rhagbrosesu yn y rhanbarth OSS [2].
2. Rhwydwaith Hyfforddiant Model
Mae'r rhwydwaith hyfforddi model wedi'i integreiddio'n dynn â'r rhwydwaith casglu a rhagbrosesu i ffurfio ffabrig byd-eang sy'n cysylltu canolfannau data cwmwl, nodau ymyl, ac IDCs ar-adeiladau.
Mae rhyng-gysylltiad cyflymder uchel yn darparu -latency, uchel-symud data trwybwn isel, tra bod yn rhaid dylunio lled band, polisïau diogelwch, rheolaethau mynediad ac adfer ar ôl trychineb o un pen i'r llall [2].
- Mewn-croes-ranbarth-cronfa gyfrifo clwstwr: Mae Transit Router yn cysylltu VPCs lluosog o fewn yr un rhanbarth. Mae ENI gweinydd yn cysylltu â switshis VPC a gellir eu ffurfweddu ar gyfer y trwygyrch gofynnol a'r RDMA.
- Cross{0}}pwll cyfrifiannu cwmwl: Mae cylchedau pwrpasol yn cysylltu IDC neu gwmwl arall i un-VPC rhanbarth. Mae Alibaba Cloud VBRs yn cysylltu yn Haen 3 â'r ddyfais cyfoedion, gyda BGP, BFD, a methiant cyflym ar gyfer cydgyfeirio cyflym.
Cronfa gyfrifo byd-eang: Mae cysylltiadau traws-ranbarth rhwng TRs yn cael eu darparu yn ôl traffig brig rhwng-rhanbarth, gyda QoS rhwng-rhanbarth dewisol i greu cronfa gyfrifo unedig ar draws rhanbarthau [2].
3. Casgliad Byd-eang{{1}Rhwydwaith Gwasanaeth
Mae rhwydwaith casglu byd-eang yn dewis modelau lleoli yn ôl yr adnoddau a'r gwasanaethau cwmwl sydd ar gael ym mhob rhanbarth ac yn darparu dosbarthiad a mynediad gwasanaeth effeithlon [2].
- Defnydd Model neu Asiant: Defnyddiwch ddefnyddio Model Studio MaaS, PAI-defnyddio PaaS EAS neu Function Compute, neu leoli IaaS ar seilwaith metel EGS, ACK, ACS, neu Lingjun y tu mewn i VPC y cwsmer.
- Dosbarthiad gwasanaeth: Creu casgliad-dosbarthiad VPC a chysylltu rhwydweithiau preifat gan ddefnyddio VPC Peering, gwasanaeth VPCs cwmwl cysylltiedig, neu PrivateLink. Defnyddio ALB neu ALB gwell fel pwynt mynediad a cheisiadau dirprwy i wahanol fodelau neu Asiantau.
- Mynediad i wasanaethau: Gall defnyddwyr rhyngrwyd lleol gyrchu ALB gwell yn uniongyrchol; gall defnyddwyr o bell ddefnyddio Global Accelerator (GA); gall defnyddwyr menter Alibaba Cloud mewnol neu allanol gysylltu'n breifat trwy PrivateLink.
Casgliad a Rhagolwg
Mae'r papur gwyn hwn yn esbonio'r heriau a wynebir gan rwydweithiau IDC yn yr oes AI a sut y gall llwybro deallus deinamig fynd i'r afael â nhw. Mae ymwybyddiaeth ddeinamig, gwneud penderfyniadau deallus, WCMP, ALB, a rhithwiroli VRF yn gwella effeithlonrwydd cydbwyso llwyth, lleihau tagfeydd a cholli pecynnau, a chyflymu hyfforddiant a chasgliad AI. Mae'r adran gynllunio yn pwysleisio segmentu VPC, dylunio casgliadau, agregu a rhagbrosesu ar draws y rhanbarth, hyfforddiant model, a chyflwyno casgliadau byd-eang. Wrth i AI barhau i esblygu, bydd rhwydweithiau canolfannau data yn wynebu gofynion llymach. Bydd llwybro deallus deinamig yn parhau i wella ar gyfer AI ymylol, dysgu ffederal, a senarios cymhleth eraill. Bydd rhwydweithiau IDC yn y dyfodol yn rhoi mwy o bwyslais ar-gyfrifiant cydgyfeirio rhwydwaith, effeithlonrwydd ynni, a gweithrediadau awtomataidd, gan greu sylfaen fwy deallus, effeithlon a dibynadwy ar gyfer yr economi ddigidol.
Cyfeiriadau
Mae'r defnyddiwr-wedi darparu dogfen ffynhonnell dechnegol.
Papur Gwyn Rhwydwaith Alibaba Cloud AI. Cyrchwyd Mai 27, 2026.
https://help.aliyun.com/zh/cloud-rhwydwaith-wel-pensaernïaeth-design/alibaba-cloud-ai-rhwydwaith{9}}papur gwyn-papur