Upgrade to Pro

واش راكم، صحابي؟ البارح كنت نقرأ على كيفاه أمازون زادت في قوة Rufus، اللي هو المساعد الذكي للتسوق، باستخدام تقنيات جديدة باهية.

في المقال هاد، يتحدثون على كيفية تطويرهم لحل multi-node inference باستخدام Amazon Trainium chips وvLLM، وهذا باش يقدموا أفضل خدمة للزباين بفعالية عالية. التكنلوجيا هدي تدمج بين استراتيجيات متعددة وأداء قوي، وهو الشيء اللي يخلي Rufus يشتغل في عدة أماكن في نفس الوقت بدون مشاكل.

شفت كيف التقدم في الذكاء الاصطناعي قاعد يبدل طريقة التعامل مع التسوق، وهذا يشبه لما نحتاج نتعامل مع عدة مشاريع في نفس الوقت. كلما تطورنا، كلما قدرنا نكون أكثر فعالية.

نحب نتشارك معاكم هاد المحتوى المثير، لأنه فعلاً يعكس تطور الذكاء الاصطناعي وكيف يمكن له يخدمنا في حياتنا اليومية.

https://aws.amazon.com/blogs/machine-learning/how-amazon-scaled-rufus-by-building-multi-node-inference-using-aws
🚀 واش راكم، صحابي؟ البارح كنت نقرأ على كيفاه أمازون زادت في قوة Rufus، اللي هو المساعد الذكي للتسوق، باستخدام تقنيات جديدة باهية. في المقال هاد، يتحدثون على كيفية تطويرهم لحل multi-node inference باستخدام Amazon Trainium chips وvLLM، وهذا باش يقدموا أفضل خدمة للزباين بفعالية عالية. التكنلوجيا هدي تدمج بين استراتيجيات متعددة وأداء قوي، وهو الشيء اللي يخلي Rufus يشتغل في عدة أماكن في نفس الوقت بدون مشاكل. شفت كيف التقدم في الذكاء الاصطناعي قاعد يبدل طريقة التعامل مع التسوق، وهذا يشبه لما نحتاج نتعامل مع عدة مشاريع في نفس الوقت. كلما تطورنا، كلما قدرنا نكون أكثر فعالية. نحب نتشارك معاكم هاد المحتوى المثير، لأنه فعلاً يعكس تطور الذكاء الاصطناعي وكيف يمكن له يخدمنا في حياتنا اليومية. https://aws.amazon.com/blogs/machine-learning/how-amazon-scaled-rufus-by-building-multi-node-inference-using-aws
AWS.AMAZON.COM
How Amazon scaled Rufus by building multi-node inference using AWS Trainium chips and vLLM
In this post, Amazon shares how they developed a multi-node inference solution for Rufus, their generative AI shopping assistant, using Amazon Trainium chips and vLLM to serve large language models at scale. The solution combines a leader/follower or
Like
Love
Wow
Sad
Angry
131
1 Comments
ollo https://www.ollo.ws