เฮ้ ในฐานะซัพพลายเออร์หม้อแปลงฉันได้รับคำถามมากมายเกี่ยวกับวิธีการใช้การเข้ารหัสตำแหน่งในหม้อแปลง ดังนั้นฉันคิดว่าฉันจะใช้เวลาสักครู่เพื่อทำลายมันให้คุณในแบบที่เข้าใจง่าย
ก่อนอื่นเรามาพูดถึงสิ่งที่หม้อแปลง หากคุณอยู่ในโลกไฟฟ้าอย่างฉันหม้อแปลงเป็นอุปกรณ์ที่ถ่ายโอนพลังงานไฟฟ้าระหว่างสองวงจรหรือมากกว่าผ่านการเหนี่ยวนำแม่เหล็กไฟฟ้า แต่ในบริบทของการเรียนรู้ของเครื่องหม้อแปลงเป็นประเภทของสถาปัตยกรรมเครือข่ายประสาทที่ดีในการจัดการข้อมูลตามลำดับเช่นข้อความ มันถูกนำมาใช้ในกระดาษ "ความสนใจคือสิ่งที่คุณต้องการ" และได้กลายเป็นวัตถุดิบในงานการประมวลผลภาษาธรรมชาติ
ตอนนี้การเข้ารหัสตำแหน่ง ในหม้อแปลงข้อมูลอินพุตมักจะเป็นลำดับของโทเค็นเช่นคำในประโยค แต่นี่คือสิ่งที่: สถาปัตยกรรมของหม้อแปลงเองไม่มีการสร้างใด ๆ - เพื่อทำความเข้าใจลำดับของโทเค็นเหล่านี้ ซึ่งแตกต่างจากสถาปัตยกรรมเครือข่ายประสาทอื่น ๆ เช่นเครือข่ายประสาทเรื้อรัง (RNNS) ที่ประมวลผลข้อมูลตามลำดับหม้อแปลงจะประมวลผลโทเค็นทั้งหมดในลำดับพร้อมกัน นั่นคือที่การเข้ารหัสตำแหน่งเข้ามา
การเข้ารหัสตำแหน่งเป็นวิธีการฉีดข้อมูลตำแหน่งของแต่ละโทเค็นในลำดับลงในโมเดล พวกเขาจะถูกเพิ่มเข้าไปในการฝังอินพุตของโทเค็น ความคิดคือการให้แบบจำลองความรู้สึกว่าโทเค็นแต่ละตัวอยู่ที่ไหนในลำดับ
วิธีหนึ่งทั่วไปในการสร้างการเข้ารหัสตำแหน่งคือการใช้ฟังก์ชั่นไซน์และโคไซน์ การเข้ารหัสตำแหน่งสำหรับโทเค็นที่ตำแหน่ง (POS) ในลำดับและมิติ (I) คำนวณดังนี้:
สำหรับมิติแม้ ((i = 2k)):
(pe _ _ {(pos, 2k)} = \ sin \ left (\ frac {pos} {10,000^{\ frac {2k} {d_ {รุ่น}}}} \ ขวา))
สำหรับขนาดคี่ ((i = 2k + 1)):
(pe _ {(pos, 2k+1)} = \ cos \ left (\ frac {pos} {10,000^{\ frac {2k} {d_ {รุ่น}}}} \ ขวา))
ที่นี่ (d_ {model}) เป็นมิติของการฝังตัวของโมเดล วิธีการนี้มีข้อดีหลายประการ ก่อนอื่นช่วยให้แบบจำลองเรียนรู้ตำแหน่งสัมพัทธ์ระหว่างโทเค็น ตัวอย่างเช่นความแตกต่างระหว่างการเข้ารหัสตำแหน่งของโทเค็นสองตัวนั้นขึ้นอยู่กับตำแหน่งสัมพัทธ์ของพวกเขาเท่านั้นไม่ใช่ในตำแหน่งสัมบูรณ์ในลำดับ ประการที่สองมันมีประสิทธิภาพในการคำนวณและสามารถจัดการลำดับของความยาวโดยพลการ
ดังนั้นหม้อแปลงใช้การเข้ารหัสตำแหน่งเหล่านี้อย่างไร หลังจากการเข้ารหัสตำแหน่งถูกสร้างขึ้นแล้วพวกเขาจะถูกเพิ่มองค์ประกอบเพียงอย่างเดียว - ฉลาดในการฝังโทเค็น ดังนั้นถ้า (e_ {pos}) คือการเข้ารหัสตำแหน่งสำหรับโทเค็นที่ตำแหน่ง (pos) และ (t_ {pos}) คือโทเค็นฝังตัวการป้อนข้อมูลไปยังเครื่องเข้ารหัสหรือตัวถอดรหัสของหม้อแปลงสำหรับโทเค็นนั้น (i_ {pos} = t_ {pos}
เมื่ออินพุตที่มีข้อมูลตำแหน่งถูกป้อนเข้าสู่หม้อแปลงกลไกความสนใจในตนเองสามารถเริ่มทำงานได้ กลไกความสนใจในตนเองช่วยให้แบบจำลองชั่งน้ำหนักความสำคัญของโทเค็นที่แตกต่างกันในลำดับเมื่อประมวลผลโทเค็นแต่ละตัว ด้วยการเข้ารหัสตำแหน่งตอนนี้โมเดลสามารถนำมาพิจารณาไม่เพียง แต่ความหมายเชิงความหมายของโทเค็น แต่ยังรวมถึงตำแหน่งของพวกเขาในลำดับ
สมมติว่าคุณกำลังทำงานในการแปลข้อความ หากไม่มีการเข้ารหัสตำแหน่งโมเดลอาจดิ้นรนเพื่อทำความเข้าใจลำดับคำที่ถูกต้องในประโยค ตัวอย่างเช่นในภาษาอังกฤษประโยค "สุนัขไล่ล่าแมว" มีความหมายที่แตกต่างจาก "แมวไล่ล่าสุนัข" การเข้ารหัสตำแหน่งช่วยให้โมเดลแยกแยะความแตกต่างระหว่างสองลำดับที่แตกต่างกันนี้และสร้างการแปลที่แม่นยำยิ่งขึ้น
ในธุรกิจหม้อแปลงไฟฟ้าเรายังจัดการกับหม้อแปลงประเภทต่าง ๆ เพื่อตอบสนองความต้องการที่หลากหลาย ตัวอย่างเช่นเรามีไฟล์167 KVA โทรศัพท์ขั้วโทรศัพท์- หม้อแปลงประเภทนี้ได้รับการออกแบบให้ติดตั้งบนเสาโทรศัพท์และเหมาะสำหรับแอพพลิเคชั่นการกระจายแรงดันไฟฟ้าต่ำ
เรายังเสนอ20kV สามเฟสน้ำมัน - หม้อแปลงการกระจายแบบแช่- หม้อแปลงเหล่านี้ใช้ในระบบพลังงานสามเฟสและดื่มด่ำกับน้ำมันเพื่อฉนวนและความเย็นที่ดีขึ้น และถ้าคุณกำลังมองหาบางอย่างที่มีคะแนนแรงดันไฟฟ้าต่ำกว่าของเราน้ำมัน 10kV - หม้อแปลงการกระจายแบบแช่เป็นตัวเลือกที่ยอดเยี่ยม พวกเขาใช้กันอย่างแพร่หลายในเครือข่ายการกระจายท้องถิ่น
ตอนนี้ถ้าคุณอยู่ในตลาดสำหรับหม้อแปลงไม่ว่าจะเป็นงานวิจัยการเรียนรู้ของเครื่องจักรหรือโครงสร้างพื้นฐานไฟฟ้าของคุณเราอยู่ที่นี่เพื่อช่วย เรามีหม้อแปลงคุณภาพสูงให้เลือกมากมาย ทีมผู้เชี่ยวชาญของเราสามารถช่วยเหลือคุณในการเลือกหม้อแปลงที่เหมาะสมสำหรับความต้องการเฉพาะของคุณ อย่าลังเลที่จะติดต่อขอคำปรึกษาและเริ่มการสนทนาเกี่ยวกับความต้องการของคุณ เราพร้อมที่จะทำงานร่วมกับคุณเพื่อค้นหาวิธีแก้ปัญหาที่ดีที่สุด
ข้อมูลอ้างอิง:
- Vaswani, A. , Shazer, N. , Parmar, N. , Uszkoreit, J. , Jones, L. , Gomez, An, ... & Polosukhin, I. (2017) ความสนใจคือสิ่งที่คุณต้องการ ความก้าวหน้าในระบบประมวลผลข้อมูลประสาท