בעזרת LM Studio, אתה יכול לשחרר את המגבלות והדאגות הפרטיות שקשורות במודלים AI בעזרת ה云, בעוד שאתה משמח במסגרת המילים של ChatGPT.
במאמר זה, אנחנו נדריך אתך בהתקנת LM Studio על Linux בעזרת הפורמט AppImage, ונספק דוגמה לביצוע מודל LLM באופן מקומי.
דרישות המערכת
הדרישות המינימליות למחשבה ולתוך ריצוף של LM Studio על ה
- קרד גרפיקה נייד של NVIDIA או AMD עם לפחוץ 8GB של מחישה VRAM.
- מעבדה סוגה שתואמת עם AVX2 ולפחוץ 16GB של רמ הדיסק הדרושה.
התקנת LM Studio בLinux
כדי להתחיל, עליך להוריד את הLM Studio AppImage החדש ביותר מהאתר הרשמי או מאגר היישומים.
ברגע שהAppImage נוריד, עליך להפוך אותו ליכול להיות מופעל ולהפתח את תוכן הAppImage, שיפרץ את עצמו לתוך תוך יישום שנקרא squashfs-root.
chmod u+x LM_Studio-*.AppImage ./LM_Studio-*.AppImage --appimage-extract
עכשיו, תנוע לתוך היישום הנפתח squashfs-root וסידור את ההפרמישים הנכונים לקבצים chrome-sandbox, שהם קבצים עוזרים שהיישום צריך כדי להתנהל באופן בטוח.
cd squashfs-root sudo chown root:root chrome-sandbox sudo chmod 4755 chrome-sandbox
עכשיו אתה יכול להריץ את אפליקציית LM Studio ישירות מהקבצים הנושקים.
./lm-studio
זה הכל! LM Studio נתקע עכשיו במערכת הלינוקס שלך, ואתה יכול להתחיל בחקירה ובריציית מודלים לשפה מקומיים.
ביצוע מודל לשפה באופן מקומי בלינוקס
אחרי התקנת LM Studio והריצה מוצלחת, אתה יכול להתחיל להשתמש בו כדי לבצע מודלים לשפה באופן מקומי.
לדוגמה, כדי לבצע מודל מאובטח קדמונים שנקרא GPT-3, לחצי על המשך החיפוש בראש והקלדת "GPT-3" ולהוריד אותו.
אחרי ההורידה המלאה, לחץ על הלוח "שיחה" בצד שמאל. בלוח "שיחה", לחץ על התפריט היררכי למעלה ובחר את המודל GPT-3 שנהוג להוריד.
עכשיו אתה יכול להתחיל לשוחח עם המודל GPT-3 על ידי הקלדת המסרים שלך בתוך תוויית הקלט של החלון השיחה.
המודל GPT-3 יעבד את המסרים שלך ויספק תגובות בהתבסס על ההאמנות שלו. זיכרו שזמן התגובה עשוי להשתנות בהתבסס על המעבדה שלך ועל גודל המודל שנהוג להוריד.
סיכון
על ידי התקנת LM Studio על המערכת הלינוקס שלך באופן AppImage, אתה יכול בקלות ל
זה מעניק לך שליטה גדולה יותר על המידע והפרטיות שלך בזמן שאתה מנצל את התועלות של מודלי AI מתקדמים. אז זיכרו להכבד את זכויות היוצרים ולהשמע אחרי תנאי השימוש ב LLMs שאתה מוריד ומרצה בעזרת LM Studio.