NVIDIA Jetson: ארכיטקטורה, עבודה ויישומיה

הפלטפורמה המובילה בעולם כמו NVIDIA Jetson היא רצף של לוחות מחשוב משובצים המשמשים בעיקר במכונות אוטונומיות ועוד יישומים משובצים . לוח זה מכיל בעיקר מודולי Jetson, שהם מחשבים בעלי ביצועים גבוהים. Jetson מתאימה היטב לתוכנת בינה מלאכותית דומה ולזרימת עבודה מקורית בענן המשמשת בפלטפורמות אחרות של NVIDIA ומספקת ביצועים חסכוניים בצריכת החשמל ללקוחות לבניית מכונות אוטונומיות מבוססות תוכנה. NVIDIA Jetson משמש ליישומי ראייה ממוחשבת. אז, מאמר זה דן בסקירה כללית של NVIDIA Jetson - העבודה והיישומים שלה.

מה זה NVIDIA Jetson?

NVIDIA Jetson הוא מתקדם מערכת הטבעה לוח המשמש ליצירת מוצרי AI חדשניים בכמה תעשיות. NVIDIA Jetson היא אחת מפלטפורמות החומרה המובילות שהיא מאוד שימושית לחובבי טכנולוגיה וגם לסטודנטים כדי לקבל ניסיון מעשי באמצעות מגוון פרויקטים חדשניים של AI. לוח זה הוא לוח יעיל מאוד עבור בינה מלאכותית הכולל מחשבי קצה מודולריים, בעלי צורה קטנה ובעלי ביצועים גבוהים. בנוסף, לוח זה מכיל גם JetPack SDK המשמש להאצת תוכנה וכן מערכת אקולוגית שלמה כדי לסייע בהגדלת הליך הפיתוח של פרויקטי AI מותאמים אישית.

ארכיטקטורת NVIDIA Jetson

אנו יודעים שמודול Nvidia Jetson מבית Nvidia הוא רצף של לוחות מחשוב משובצים. כל הדגמים של Jetson TX1, TX2 ו-TK1 נושאים מעבד SoC או Tegra מבית Nvidia המשלב מעבד של ארכיטקטורת ARM. כאן, Jetson היא מערכת בעלת הספק נמוך שנועדה בעיקר להאיץ יישומי למידת מכונה.

ארכיטקטורת NVIDIA Jetson Xavier NX מוצגת להלן. זהו מחשב העל המתקדם והקטן ביותר בינה מלאכותית המשמש גם למכשירי מחשוב קצה רובוטיקה אוטונומית . למודול זה יש את היכולת לפרוס ביצועים ברמה של שרת בתוך מקדם צורה מוצק של 70x45 מ'מ ומספק גם עד 21 TOPS של מחשוב מתחת ל-15W של הספק, אחרת עד 14 TOPS של מחשוב מתחת ל-10W.

התרשים לעיל מכיל NVIDIA Volta 384 ליבות GPU כולל 6 ליבות NVIDIA Carmel ARMv8.2 מעבד 64 סיביות, 48 ליבות טנסור, 8GB 128 סיביות LPDDR4x, מקודדים ומפענחי וידאו 4K, מנועי NVDLA (NVIDIA Deep Learning Accelerator) כפולים, מצלמה לעד שש ברזולוציה גבוהה מיידית זרמי חיישנים, יציאת תצוגה כפולה או צגי HDMI 4K, הרחבת PCIe Generation 3, USB 3.1 ו-GPIOs עם I2C, SPI, I2S, UART ו-CAN bus.

המפרטים של NVIDIA Jetson כוללים את הדברים הבאים.

• ההספק הוא מצבי 10W או 15W וכניסת 5V.
• המעבד הוא 6 ליבות NVIDIA Carmel 64-bit ARMv 8.2 במהירות 1400MHz.
• GPU הוא 384 ליבות NVIDIA Volta במהירות 1100MHz עד 48 ליבות Tensor.
• DL הוא מנועי NVDLA כפולים.
• הזיכרון הוא 8GB 128-bit LPDDR4x במהירות 1600MHz.
• 16GB אחסון eMMC 5.1.
• המצלמה היא 12x MIPI CSI-2 נתיבי | מצלמות 3×4 או 6×2.
• עד 6 מצלמות (36 בערוצים וירטואליים).
• תרמיות מ-25°C עד 90°C.
• התצוגה היא DP 1.4 או eDP 1.4 או HDMI 2.0 a/b ב-4Kp60.
• Ethernet הוא 10 או 100 או 1000 BASE-T Ethernet.
• USB 3.1 ו-USB 2.0.

מודול זה נתמך על ידי כל ערימת התוכנה CUDA-X של NVIDIA וגם JetPack SDK לפיתוח AI. הוא מריץ מסגרות למידת מכונה פופולריות מאוד ו-DNNs קשים במספר זרמי חיישנים ברזולוציה גבוהה בו-זמנית, בנוסף ליישומי ראייה ממוחשבת, גרפיקה ומולטימדיה בזמן אמת בתוך סביבת לינוקס שולחנית מלאה.

נכון לעכשיו, מפתחים החלו לעצב יישומי בינה מלאכותית עבור Jetson Xavier NX בעזרת ערכת המפתחים של Jetson AGX Xavier. החלת תיקון דפוס מכשיר ליד JetPack יגרום למכשיר להופיע בתור Jetson Xavier NX. זה ישנה את מספר ליבות ה-GPU וה-CPU שניתן להשיג באמצעות תוכנה ותגדיר את תדרי השעון כמו גם את המתח של הליבות על פני המערכת.

התיקון הוא הפיך לחלוטין, המשמש כדי להעריך את ביצועי Jetson Xavier NX. מודול זה יסווג מצבי כוח ברירת מחדל של 10W ו-15W עם ביצועי שיא של 14 ו-21 TOPS בהתבסס על המצב הפעיל. הכלי nvpmodel משמש לטיפול בפרופילי הספק כדי להתאים את תדרי ה-CLK הגבוהים ביותר עבור ה-GPU, המעבד, שעוני ה-SoC השונים ובקר הזיכרון יחד עם אשכולות ה-CPU השונים.

בהתבסס על עומס העבודה, מושל ה-DVFS (Dynamic Voltage & Frequency Scaling) מאזן את התדרים בזמן הריצה עד לגבולות הגבוהים ביותר שלהם כפי שמתואר על ידי מודל nvp הפעיל, ובכך ניצול החשמל מצטמצם במצב סרק ומתבסס על פעולת המעבד. הכלי nvpmodel מסייע ביצירה ושינוי של מצבי כוח חדשים בהתבסס על דרישות TDP ויישום.

מודול NVIDIA Jetson מביא את הביצועים של מחשב העל לקצה בתוך גורם צורה קטן SOM (מערכת על מודול). שווה ל-21 TOPS של מחשוב מואץ שולח כוחות סוס להפעיל רשתות עצביות נוכחיות במקביל ולעבד נתונים מחיישנים שונים ברזולוציה גבוהה. מודול זה אידיאלי עבור מערכות בינה מלאכותית מבוססות ביצועים גבוהים כגון מכשירים רפואיים, רובוטים מסחריים, מערכות משובצות AIoT, מצלמות חכמות, בדיקה אופטית אוטומטית, חיישנים ברזולוציה גבוהה, מפעלים חכמים וכו'.

תוֹכנָה

מודול NVIDIA Jetson פשוט נתמך באמצעות ארכיטקטורות תוכנה משולבות כך שהוא יקל על מפתחי תוכנה לעבוד הרבה יותר. גישה משולבת זו פשוט חוסכת למפתחים את הטרחה של קידוד חוזר תוך שיפור ההרכבים שלהם במודולים אחרים של Jetson.

NVIDIA JetPack SDK זמין עם מערכת הפעלה Linux, ספריות מואצות CUDA-X וממשקי API עבור תחומי למידת מכונה שונים כמו ראייה ממוחשבת, למידה עמוקה וכו'. הוא תומך גם במסגרות למידת מכונה כגון Caffe, TensorFlow, Keras ו-OpenCV מחשב vision ספריות.
NVIDIA Jetson מציעה כלי תוכנה שונים עבור המודולים שלה אשר נדונים להלן.

NVIDIA JetPack SDK

חבילות תוכנת פלטפורמת Jetson כמו TensorRT, CUDA Toolkit, cuDNN, GStreamer, OpenCV ו-Visionworks מורכבות כולן על גבי L4T דרך ליבת LTS Linux.

חבילת מנהלי התקנים של NVIDIA Jetson Linux

הוא מספק את ליבת לינוקס, מנהלי התקנים של NVIDIA, טוען אתחול, מערכת קבצים לדוגמה, כלי עזר מהבהבים ועוד רבים נוספים עבור הפלטפורמה Jetson.

NVIDIA DeepStream SDK

זוהי קבוצה של ממשקי API וספריות כדי לסייע למפתחים בעיצוב וסידור פתרונות IVA (Intelligent Video Analytics) חזקים בפלטפורמת Jetson. הוא משמש לבניית יישומים מורכבים כמו קידוד, לכידת תמונה, פענוח, הסקה עם TensorRT וכו'.

NVIDIA Isaac SDK

זוהי קבוצה של ספריות, ממשקי API, מנהלי התקנים וכלים אחרים שיוסיפו AI לרובוטים של הדור הבא לניווט, תפיסה ומניפולציה. אז זה עוזר ביצירה ופריסה של רובוטיקה המונעת בינה מלאכותית.

סוגי NVIDIA Jetson

מודול NVIDIA Jetson מגיע עם זיכרון, GPU, CPU, ממשקים מהירים, ניהול צריכת חשמל וכו'. מודולים אלו זמינים בביצועים שונים, יעילות צריכת חשמל ובווריאציות של גורמי צורה כדי להפוך אותם לניצול בתעשיות שונות. ישנם התקני NVIDIA Jetson שונים זמינים עליהם נדון להלן.

NVIDIA Jetson Nano

מודול NVIDIA Jetson Nano מתאים למפתחים או לסטודנטים וגם למתחילים מכיוון שהוא מיועד בעיקר ללמידה והוראה מעשית. גודלו של מודול זה קטן אולם יעילות ההספק והביצועים שלו גבוהים כדי להפוך אותו למושלם להפעלת רשתות עצביות מקבילות מרובות, עומסי עבודה בינה מלאכותית ועיבוד נתונים מחיישנים ברזולוציה גבוהה בבת אחת. לפיכך, מודול Jetson Nano הוא מכשיר קצה פופולרי מאוד המשמש לייצור מוצרים ופתרונות בינה מלאכותית משובצים.

מודול זה מושלם עבור יישומי ראייה ממוחשבת מבוססי בינה מלאכותית והוא מבצע משימות ראיית בינה מלאכותית כגון זיהוי אובייקטים, פילוח תמונה, סיווג תמונה וכו'. מודול זה תואם מאוד לתוכנת ראייה ממוחשבת בקוד פתוח וספריות למידת מכונה של OpenCV.

סדרת NVIDIA Jetson TX2

מודול NVIDIA Jetson TX2 Series מעוצב בגודל כרטיס אשראי. התכונות של מודול זה כוללות בעיקר NVIDIA Pascal GPU, עד 8 GB זיכרון, 59.7 GB/s של רוחב פס זיכרון וממשקי חומרה סטנדרטיים. מודול זה מספק ביצועים של עד פי 2.5 בהשוואה למודול NVIDIA Jetson Nano.

מודול זה מריץ ביעילות רבה רשתות עצביות עמוקות במכשירי קצה כדי להשיג דיוק גבוה יותר. המודולים הזמינים בסדרה כוללים בעיקר את Jetson TX2 4GB, Jetson TX2i, Jetson TX2 ו- Jetson TX2 NX. מודול ה-NVIDIA Jetson TX2 NX פשוט חולק תאימות של פינים וגורמי צורה דרך Jetson Xavier NX ו- Jetson Nano.

שלושת המודולים הנותרים יחלקו את הצורה של מודול Jetson TX2 המקורי. השימוש בסדרת TX2 פשוט נע בתעשיות שונות כמו חקלאות, ייצור, מדעי החיים, קמעונאות וכו'. מודול Jetson TX2i משאר המודולים מתאים ביותר להתקני AI בעלי ביצועים גבוהים כמו ציוד רפואי, מצלמות ראיית מכונה ורובוטים תעשייתיים מכיוון מהעיצוב החזק שלו.

מודול זה הוא מכשיר מחשוב בינה מלאכותית משובצת מהירה מאוד המציע יעילות הספק גבוהה כמו 7.5 וואט, יכולות מחשבי-על בעיקר עבור התקני AI קצה, וגם ממשקי חומרה שונים לשילוב בקלות במוצרים ובגורמי צורה שונים.

NVIDIA Jetson Xavier NX

מודול NVIDIA Jetson Xavier NX קטן מאוד בהשוואה לכרטיס אשראי עם ביצועים גבוהים ויעילות חשמל. זה ידוע גם בתור מחשב העל הקטן ביותר בינה מלאכותית למערכות קצה ומשובצות בעולם. מודול זה עוזר במיוחד בהפעלת מערכות AI שלמות.

התכונות של Jetson Xavier NX תומכות גם בטכנולוגיות מקוריות בענן, כך שקל למפתחים בשדרוג וניהול מוצרי AI. מודול זה תומך בכל הדגמים והמסגרות הפופולריות של AI. אז המודול הזה מתאים לחלוטין למערכות בינה מלאכותית בעלות ביצועים גבוהים כמו מצלמות חכמות, מערכות ראייה ברזולוציה גבוהה המופעלות על ידי בינה מלאכותית, מל'טים, רובוטים מסחריים או ציוד רפואי.

מודול NVIDIA Jetson Xavier NX מספק 21 פעולות Tera בשנייה או TOPS להפעלת עומס עבודה נוכחי של AI על ידי צריכת חשמל של 10W. הצורה של מודול זה קומפקטית יותר בהשוואה לכרטיס אשראי. מודול Xavier NX מריץ רשתות עצביות שונות בבת אחת ומעבד נתונים מחיישנים שונים ברזולוציה גבוהה. סוג זה של מודול משמש לעיצוב יישומים עבור התקני מחשוב משובצים וקצה הזקוקים לביצועים גבוהים אם כי עם מגבלות משקל, גודל והספק משמעותיים.

NVIDIA Jetson AGX Xavier Series

מודול NVIDIA Jetson AGX Xavier Series פותח בעיקר עבור מכונות אינטליגנטיות אוטונומיות מהדור הבא. מודול זה מספק עד 32 פעולות TOPS או Tera לשנייה של ביצועי בינה מלאכותית כאשר משתמשים בהקטנת 10 וואט. מפתח התוכנה פשוט רשאי לארגן במהירות רשתות עצביות עם קבוצה של כלי תוכנת AI של NVIDIA.

מודול זה מספק מפרטים שונים ויכולות אבטחה פונקציונליות כך שמפתחים יוצרים מוצרים מוסמכים בטיחותיים או תעשייתיים. הביצועים הגבוהים של מודול זה יכולים להפוך אותם למתאימים עבור מכונות אוטונומיות רבות כמו רובוטים לוגיסטיים ותעשייתיים, מערכות מפעל ומזל'טים גדולים.

ערכת מפתחים של Jetson Xavier NX

ערכת המפתחים של jetson xavier nx כוללת מודול Xavier NX חסכוני בחשמל המשמש להתקני קצה המופעלים על ידי בינה מלאכותית. למודול זה יש כמה תכונות כמו תמיכה מקורית בענן ומאיץ את ערימת תוכנת NVIDIA ב-10W בלבד עם ביצועים מעל פי 10 מה-Jetson TX2. ערכת מפתחים זו משמשת יצרנים של מכונות חכמות, סטארט-אפים של בינה מלאכותית ומפתחי יישומים כדי לעצב מוצרים מודרניים עם מסקנות בינה מלאכותיות קומפקטיות ומדויקות ביותר וגורם צורה חסכוני בחשמל.

Jetson AGX Xavier Industrial

מודול Jetson AGX Xavier Industrial הוא חלק מסדרת AGX Xavier. העיצוב של מודול זה הוא גורם צורה תואם פינים השולט בדגמי ה-AI העדכניים ביותר ביישומים תובעניים. מודול זה מספק רטט, זעזועים, מפרטי טמפרטורה, תכונות אבטחה מתקדמות, עד פי 4 מהזיכרון ופי 20 מהביצועים של מודול TX2i.

מודול זה עוזר מאוד למעצבים לתכנן אוטומציה, רובוטיקה ומוצרים חכמים אחרים. בנוסף, היא גם מתכננת מוצרים בעלי אישור בטיחות ומחוספס לאספקת ביצועים גבוהים עבור יישומי פונקציונליות ואבטחה תעשייתיים, מוטמעים בינה מלאכותית, בעיצוב של גורם עמיד וחסכוני בצריכת החשמל.

יתרונות

ה היתרונות של NVIDIA Jetson כלול את הבאים.

• NVIDIA Jetson מתאים לסטודנטים, מפתחים בודדים וארגונים שונים.
• פלטפורמת Jetson פופולרית מאוד מכיוון שהיא מגיעה עם יתרונות שונים כמו גמישות מודולרית, תוכנה מאוחדת ותמיכה בטכנולוגיות מקוריות בענן.
• לוח זה מספק קבוצה של מודולים שעוזרים מאוד לכל דבר, החל מיישומי AI בסיסיים ועד למכשירים מורכבים מאוד המופעלים על ידי AI.
• לוח זה מופעל באמצעות ארכיטקטורת תוכנה מאוחדת המסייעת למפתחים מהקידוד החוזר על עצמו. ברגע שהם צריכים קיבולת AI/ML, הם יכולים לכלול מודול Jetson קשור למכשיר והוא דואג להרמה הכבדה.
• פלטפורמת NVIDIA Jetson פשוט תומכת בטכנולוגיות וזרימות עבודה מקוריות בענן כמו תזמור ומכולות, ומספקת למפתחים את היכולת לפתח במהירות ולהרחיב מוצרי AI.
• NVIDIA JetPack SDK זמין עם מערכת הפעלה Linux, APIs וספריות האצה CUDA-X עבור מגוון תחומים של למידת מכונה כמו ראייה ממוחשבת ולמידה עמוקה. זה גם מספק תמיכה במסגרות למידת מכונה כמו Caffe ו-Keras, ספריות TensorFlow ו-OpenCV של ראייה ממוחשבת.

חסרונות

יש לו מעט מאוד חסרונות תוך התחשבות במחיר

• מודול הננו של NVIDIA Jetson אינו זמין עם wifi בפנים.
• מודול ננו של NVIDIA Jetson כולל רק שני פיני PWM בלוח.

יישומים

היישומים של NVIDIA Jetson כוללים את הדברים הבאים.

• מודול NVIDIA Jetson מציע מערכות הטבעה מעולות המשמשות לייצור מוצרי AI עבור מגוון תרחישים. זהו מודול חסכוני בחשמל המשמש עבור AI הכולל מחשבי קצה בעלי ביצועים גבוהים, מודולריים ובעלי גורם קטן.
• לוחות Nvidia Jetson מיועדים בעיקר לשימוש במערכות משובצות כמו רחפנים, רובוטים והתקנים אחרים הזקוקים לעיבוד רב עוצמה בתוך גורם צורה קטן. היישומים הנפוצים של לוחות Jetson כוללים בעיקר מכשירים רפואיים, רכבים אוטונומיים, שילוט דיגיטלי, אוזניות AR/VR, יישומי עיר חכמה וכו'.
• מודול זה תומך בארכיטקטורות תוכנה מאוחדות כדי להפוך את העבודה של מפתחי התוכנה לפשוטה בהרבה.
  המודולים וההתקנים של NVIDIA Jetson הם התקני קצה מותאמים המשמשים לפיתוח מערכות Edge AI.
• NVIDIA Jetson Nano Developer Kit הוא מחשב חזק מאוד וקטן המריץ מספר רשתות עצביות במקביל עבור יישומים שונים כמו זיהוי אובייקטים, סיווג תמונה, עיבוד דיבור ופילוח.
• מודול NVIDIA Jetson Nano מושלם עבור יישומי ראייה ממוחשבת המבוססים על AI והם מבצעים משימות ראיית AI כגון פילוח תמונה, סיווג תמונה, זיהוי אובייקטים וכו'.
• מודולי הננו של NVIDIA Jetson מביאים יכולות חדשות מדהימות לאלפי מערכות בינה מלאכותית חסכוניות וקטנות
• מודול NVIDIA Jetson Nano תואם לספריות למידת מכונה של OpenCV ותוכנת ראייה ממוחשבת בקוד פתוח.

ש). מהי צריכת החשמל של מודולי Jetson?

א). צריכת החשמל של מודול Jetson משתנה בהתאם לדגם ולשימוש. למודול Jetson Xavier, למשל, יש צריכת חשמל טיפוסית של כ-15 ואט עד 30 וואט, בעוד שה-Jetson TX2 יכול לצרוך בין 7 ואט ל-15 וואט.

ש). האם ניתן להשתמש בג'טסון לזיהוי ומעקב אחר אובייקטים בזמן אמת?

א). כן, Jetson Platforms יכולה להתמודד עם זיהוי ומעקב ראייה. מודול ננו הוא GPU בעל ביצועים גבוהים - עם פלטפורמת מחשוב קצה שיכולה לשמש בעיקר לזיהוי, ספירה ומעקב.

ש). עם אילו סוגי חיישנים ג'טסון יכול להתממשק?

א). חיישני ראייה משמשים לחיבור Jetson עם ממשקי מצלמה שונים כמו USB, MIPI CSI ו-Ethernet. הם יכולים גם להתממשק עם lidar, חיישן אולטראסוני וסוגים אחרים, כמו גם באמצעות סוגי הממשק השונים כמו I2C, SPI וכו '.

ש). מה ההבדל בין ג'טסון ל-Raspberry Pi?

א). ההבדל העיקרי בין שני הלוחות הללו הוא; NVIDIA Jetson פותחה כדי להתמודד עם משימות בינה מלאכותית וראייה ממוחשבת תובעניות, בעוד שללוח Raspberry Pi 4 יש מולטימדיה GPU מבוסס הספק נמוך המשמש למחשוב וחינוך למטרות כלליות. ניתן להשתמש ב- Jetson עבור תכונות מתקדמות יותר כגון פענוח וקידוד וידאו מואץ בחומרה באמצעות ה-GPU העוצמתי שלו (יחידת עיבוד גרפית) ו-CPU (יחידת עיבוד מרכזית).

ש). האם ניתן להשתמש בג'טסון עבור יישומי רובוטיקה אוטונומיים?

א). הרובוטיקה והתעשייתית האוטונומית של המחר תהיה מונעת בכוח באמצעות NVIDIA Jetson for Intelligent Machines & Robotics.

לפיכך, זהו סקירה כללית של NVIDIA Jetson - יתרונות ויישומיו. מודול זה הוא הפלטפורמה המובילה ברחבי העולם המשמשת מפתחים לייצור מוצרי AI מתקדמים בכל התעשיות. מודולים אלה משמשים גם סטודנטים וגם חובבים כדי לקבל ניסיון מעשי בלימוד AI כדי ליצור פרויקטים מדהימים. הפלטפורמה של Jetson כוללת בעיקר ערכות מפתחות קטנות וחסכוניות בחשמל ומודולי ייצור. הנה שאלה בשבילך, מה זה NVIDIA?