מפעל צריך אור, כי אנשים צריכים לראות מה הם עושים. תוכנה לא צריכה. מכאן המונח „Dark Factory“: עבודה שממשיכה לרוץ ברקע, גם כשאף אחד לא מפעיל כל שלב בעצמו. עבור עסק היום, זה לא אומר שאף אחד כבר לא עובד. זה אומר שידע, נתונים ומשימות חוזרות מתחברים למערכת משלכם, שעליה סוכני AI יכולים לעבוד באופן אמין.
AI מקומי לעסקים, בקצרה
AI מקומי פירושו שמודל שפה רץ על המחשב או השרת שלכם, ולא אצל ספק ענן. הנתונים שלכם לא יוצאים מהבית. כדי שה-AI יענה מתוך הידע שלכם ולא רק ינהל שיחה, הוא צריך מרכז ידע מאחוריו: מסד נתונים גרפי (אצלנו Neo4j) לקשרים, מסד נתונים וקטורי (Qdrant) לחיפוש לפי משמעות, וכללים שקושרים כל תשובה למקור.
- הידע שייך לכם ונמצא על השרת שלכם. את מודלי ה-AI אפשר להחליף.
- Neo4j שומר דברים ואת הקשרים ביניהם כצמתים וקשתות, כולל התאריך שממנו משהו תקף.
- Qdrant מוצא קטעי טקסט מתאימים לפי משמעות, ולא רק לפי מילת מפתח.
- כל תשובה מציינת את המקור שלה. אם המערכת לא מוצאת כלום, היא אומרת את זה.
- עבודה שגרתית רצה על מודלים מקומיים, וניתוח מורכב עובר ל-API חיצוני כשצריך.
המאמר הזה הוא חלק מעבודת המחקר והפיתוח שלנו, בתמיכת FFG Project Start. בהמשך אפשר ללחוץ על כל שלב במבנה ולקרוא עליו.
איך מרכז הידע של ה-AI עובד
שש תחנות, מהמקור ועד התשובה. לחצו על רכיב כדי לקרוא מה קורה בו.
חנות ומערכת מלאי
מוצרים, וריאציות, מחירים, מלאי, הזמנות והחזרות, למשל מ-Shopify, ממערכת ניהול מידע מוצר (PIM) או ממערכת המלאי. העיקר הוא מקור אחד לכל פיסת מידע: מה שמתוחזק ב-PIM לא מתוחזק פעם שנייה במרכז הידע.
Google Ads, Search Console, Analytics
קמפיינים, מונחי חיפוש, קליקים, המרות ודירוגים מגיעים מדי יום דרך הממשקים הרשמיים. Search Console מספק נתונים באיחור של יומיים-שלושה; המערכת יודעת את זה ומשווה רק ימים שהושלמו.
תקשורת עם לקוחות ובתוך הצוות
מיילים, הודעות צ׳אט וסיכומי פגישות מכילים החלטות ובקשות שלא כתובות בשום מקום אחר: „להמשיך להגן על מונחי המותג“, „לא לפרסם את המוצרים האלה“. הנחיות כאלה נשמרות ככללים קבועים לכל לקוח. מה נקלט מתוך זה היא החלטה מודעת, ויש לבדוק אותה מול דיני הגנת הפרטיות.
מסמכים ומדריכים
הוראות הפעלה, תנאי אחריות, שאלות נפוצות, חוזים והצעות מחיר. הם מחולקים לקטעים, כדי שתשובה תוכל לציין בדיוק את העמוד שבו משהו כתוב, למשל קוד שגיאה של מכשיר ומה עושים בו.
גם עבודת הפיתוח הופכת לידע
אנחנו מפתחים עם עוזרי AI בטרמינל, כמו Claude Code. כל סשן מכיל החלטות, טעויות ופתרונות. הסשנים האלה מפורקים לשלבים בודדים, מנוקים מסיסמאות וממפתחות, ונשמרים כצמתים בגרף. כך המערכת יודעת בהמשך איך בעיה דומה נפתרה בעבר, והנתונים יכולים לאמן מודל מקומי על דרך העבודה שלנו.
מחבר אחד לכל מקור
לכל מקור יש מחבר משלו שמושך שינויים: ב-Webhook כשהמקור מודיע, או בבדיקה במרווחי זמן קבועים. מחבר אף פעם לא כותב ישירות למסד הנתונים. הוא רק מדווח על אירוע, למשל „התקבלה הזמנה“ או „מדריך עודכן“.
תור שלא מאבד כלום
כל האירועים עוברים דרך זרם אירועים (אצלנו Redis Streams), בהפרדה לכל לקוח. כל אירוע נושא את הזמן שבו הוא קרה, ולא את הזמן שבו עובד. אם שלב עיבוד נכשל, האירוע נשאר וננסה שוב מאוחר יותר.
ניקוי, פירוק, סיווג
לפני שמשהו נשמר, מוסרים פרטי גישה ומידע אישי מיותר, הטקסטים מחולקים לקטעים, ומזוהים אנשים, מוצרים, פרויקטים ומונחים. את העבודה השגרתית הזאת עושה מודל מקומי, כך שהיא לא יוצאת מהשרת.
Neo4j שומר קשרים
כל דבר הופך לצומת (מוצר, מדריך, לקוח, קמפיין, החלטה), וכל קשר הופך לקשת („שייך ל“, „מזכיר את“, „מחליף את“). כך המערכת יכולה לענות על שאלות של כמה שלבים: איזה מדריך שייך למכשיר הזה, איזו אחריות חלה עליו, אילו שאלות כבר עלו לגביו?
Qdrant מחפש לפי משמעות
כל קטע טקסט מומר לווקטור, סדרת מספרים שמתארת את המשמעות שלו. Qdrant מוצא אז קטעים שמתאימים לשאלה, גם כשמשתמשים במילים אחרות: „המכשיר לא מקרר“ מוצא גם „ביצועי הקירור יורדים“. כל וקטור נושא את מזהה הלקוח, והחיפוש מתבצע רק בנתונים שלו.
שום דבר לא נמחק
לכל קשר יש „בתוקף מ“ ו„בתוקף עד“. כשמחיר, אחריות או איש קשר משתנים, הקשר הישן נסגר ונוצר קשר חדש, בלי לדרוס את הקודם. כך המערכת יכולה לומר מה תקף היום, ועדיין להסביר מה היה תקף במרץ.
בלי מקור אין תשובה
המודל מקבל רק את הקטעים והעובדות שנמצאו, עם הוראה לענות אך ורק מתוכם ולציין את המקור. אם החומר לא מספיק, התשובה הנכונה היא „לא מצאתי על זה כלום“, ולא ניחוש.
הנחיות קבועות שכל תשובה מכירה
לכל לקוח יש הנחיות קבועות שנשלחות עם כל בקשה: שווקי יעד, מגבלות תקציב, מוצרים שלא מפרסמים, טון דיבור. כל הצעה נמדדת מול הכללים האלה וצריכה להסביר למה היא עומדת בהם.
אדם מאשר
תשובות ללקוחות, פוסטים לרשתות חברתיות ושינויי תקציב נשמרים כטיוטה. אדם בודק ומאשר, ורק אז משהו יוצא החוצה. כל אישור, עריכה או דחייה נשמרים ומשפרים את ההצעות הבאות.
מקומי: לשגרה ולמידע חסוי
על השרת שלנו רצים כרגע שני מודלים פתוחים דרך Ollama: Gemma 4 (12B) לטקסט ולסיווג, ו-gpt-oss (20B) למשימות שמשתמשות בכלים. הם רצים בלי כרטיס גרפי, בקשה אחרי בקשה. שום בקשה לא נדחית כי המחשב עסוק: הבקשות מחכות בתור.
API: לניתוח מורכב
לאסטרטגיה, ניתוחים ארוכים וכתיבה טובה אנחנו משתמשים במודלים חזקים דרך ממשק, כמו Claude. הם מקבלים רק את הקטעים שהמשימה צריכה, לא את כל מסד הנתונים. אפשר להחליף את המודל בכל רגע, כי הידע לא נמצא בתוך המודל.
איזו משימה הולכת לאן
לכל משימה נקבע איזה מודל מקבל אותה: מידע חסוי ועבודה בכמויות גדולות במקומי, מקרים מורכבים בודדים דרך ה-API. העלות, זמן התגובה ושיעור השגיאות נמדדים לכל משימה, כך שהחלוקה מבוססת על מספרים ולא על תחושה.
סוכנים עם תפקיד ברור
סוכן SEO, סוכן Google Ads, סוכן שירות: לכל אחד תפקיד, מקורות וגבולות משלו. אצלנו, למשל, סוכן אחד בודק כל לילה את חשבונות Google Ads ומציג הצעות בבוקר, וסוכן אחר משווה מחירים מול זירות מסחר גדולות.
צ׳אט שבודק במקום לנחש
הצ׳אט באתר הוא רק יישום אחד של אותו ידע. כשמישהו שואל על מכשיר, הוא עונה מתוך נתוני המוצר, המדריך ותנאי האחריות, ומקשר למקום המדויק. אותו בסיס עוזר לצוות השירות לענות ולעובדים חדשים להיכנס לעבודה.
מספרים ממסד הנתונים, טקסט מהמודל
דוח נוצר בשני שלבים: קודם המערכת שולפת את המספרים ממסד הנתונים, ואחר כך מודל כותב סביבם את הטקסט, רק מתוך המספרים האלה. אף מספר לא מגיע מהזיכרון של המודל, ואת כולם אפשר לבדוק.
הידע בתוך Claude Code ו-Cursor
דרך Model Context Protocol (MCP) כלי AI כמו Claude Code או Cursor יכולים לחפש ישירות במרכז הידע, עם אותן הרשאות ואותה הפרדה לכל לקוח. מי שעובד בטרמינל מקבל את ההקשר של הפרויקט בלי להסביר אותו מחדש בכל פעם.
מרכז ידע פרטי ל-AI במקום פרויקטים נפרדים בצ׳אט
עסקים רבים מתחילים עם ChatGPT, Claude או Gemini. זה הגיוני, אבל זו לא תשתית AI משלכם. לפרויקט בצ׳אט יש מגבלות: כמה טקסט נכנס בבת אחת, כמה עולה חבילה, אילו נתונים מותר להעלות, והעובדה שהידע יושב בכלי שמחר עשוי לעבוד אחרת או לעלות יותר.
מרכז הידע הופך את זה. הידע נמצא במסד נתונים משלכם, על שרת שאתם שולטים בו. המודלים ניגשים אליו, ואפשר להחליף אותם: היום Claude, מחר מודל אחר, ולמשימות חסויות מודל מקומי. אם הספק מתחלף, הידע נשאר.
מה „עצמאי“ אומר בפועל
- השרת שלכם: במשרד, בחוות שרתים באירופה או אצל ספק אחסון לבחירתכם. לא אצל ספק צ׳אט.
- הנתונים שלכם: אפשר לייצא הכול בכל רגע. Neo4j ו-Qdrant הן תוכנות פתוחות, והנתונים נשמרים בפורמטים פתוחים.
- המקורות שלכם: מרכז הידע קורא מהמערכות שלכם (חנות, מערכת מידע מוצר, מערכת מלאי) ולא מתחזק שום דבר פעמיים.
- אפשר להחליף את השותף, גם אותנו: המבנה מתועד, וצוות אחר יכול לקבל אותו.
למה ההקשר לא נפתר בחלון הצ׳אט
טעות נפוצה היא לחשוב שפרויקט AI מכיר אוטומטית את כל העסק. ככל שיש יותר נתונים, פחות נכנס, וכל שאלה עולה יותר, כי בכל פעם שולחים הכול. מרכז ידע שולח למודל רק את עשרת הקטעים שמתאימים לשאלה. זה מהיר יותר, זול יותר ומדויק יותר.
מהו מסד נתונים גרפי?
מסד נתונים גרפי שומר נתונים כצמתים וקשתות. צומת הוא דבר (מוצר, אדם, מסמך), וקשת היא הקשר בין שני דברים („שייך ל“, „קנה את“, „מוזכר ב“). לשניהם יכולות להיות תכונות, כמו שם או תאריך. בניגוד לטבלאות, לא צריך להרכיב את הקשרים מחדש בכל שאילתה: הם שמורים, ואפשר לעקוב אחריהם ישירות.
כך בדיוק בנוי הידע של עסק. למקרר יש מדריך, המדריך מתאר קודי שגיאה, לקוח שאל על אחד מהם, עובד כתב את התשובה, והאחריות תקפה מתאריך מסוים. בטבלאות אלה חמש טבלאות והרבה חיבורים. בגרף זו דרך אחת מצומת לצומת.
מהו Neo4j?
Neo4j הוא מסד הנתונים הגרפי המוכר ביותר. הוא קיים בשוק מאז 2007, מפותח על ידי Neo4j, Inc. ומתופעל בשפת השאילתות Cypher, שהרעיונות שלה נכנסו לתקן ISO GQL. יש גרסת Community חינמית (קוד פתוח), גרסת Enterprise בתשלום וגרסה מנוהלת בשם AuraDB. כלומר, אפשר להריץ את Neo4j על השרת שלכם.
שאילתה נקראת כמעט כמו משפט. השאילתה הזאת מוצאת למוצר את המדריך התקף ואת השאלות שלקוחות כבר שאלו עליו:
MATCH (p:Product {sku: $sku})-[:HAS_MANUAL]->(m:Document)
WHERE p.tenantId = $tenantId
OPTIONAL MATCH (q:Question)-[:ABOUT]->(p)
RETURN p.name, m.title, m.url, collect(q.text) AS questionsלמה אנחנו משתמשים ב-Neo4j
- קשרים של כמה שלבים: מוצר, מדריך, אחריות, שאלה, תשובה. או: קמפיין, מונח חיפוש, דף נחיתה, המרה.
- זמן: לכל קשת יש „בתוקף מ“ ו„בתוקף עד“. קשרים ישנים נסגרים ולא נמחקים. כך תמיד אפשר לדעת מה היה תקף ומתי.
- הפרדה בין לקוחות: כל שאילתה חייבת לכלול את מזהה הלקוח, אחרת התוכנה שלנו מסרבת להריץ אותה. כך הנתונים של שני לקוחות לא יכולים להתערבב.
- סוכנים כנתונים: גם סוכני ה-AI עצמם, ההנחיות שלהם, המשימות וכל הרצה עם הקלט, התוצאה והעלות, הם צמתים. אפשר ללמד סוכן משהו בלי להפיץ תוכנה חדשה, ולבדוק אחר כך מה הוא עשה ומתי.
לשמור הכול כצמתים, גם את העבודה בטרמינל
מרכז ידע הופך לבעל ערך כשהוא מכיר לא רק מסמכים אלא גם עבודה. לכן אנחנו שומרים שלושה סוגי צמתים: אפיזודות (חומר הגלם, כמו מייל, סיכום פגישה או שלב בסשן פיתוח), ישויות (מה שמופיע בהן: אנשים, מוצרים, פרויקטים, מונחים) וקהילות (קבוצות של ישויות שמופיעות הרבה יחד).
זה נכון גם לעבודת הפיתוח שלנו. כשאנחנו עובדים עם עוזר AI בטרמינל, נוצר תיעוד מלא בהחלטות: מה ניסינו, מה נכשל, ומה עבד בסוף. התיעוד הזה מנוקה מסיסמאות וממפתחות על המחשב שלנו, נבדק פעם נוספת בשרת ונשמר כאפיזודות. כך נוצר זיכרון שעוזר בבעיה הדומה הבאה, ומאגר אימון למודל מקומי שמכיר את דרך העבודה שלנו.
מהו מסד נתונים וקטורי?
מסד נתונים וקטורי מחפש לפי משמעות ולא לפי מילים מדויקות. לשם כך כל קטע טקסט מומר על ידי מודל Embedding לווקטור, סדרה ארוכה של מספרים. טקסטים עם משמעות דומה מקבלים מספרים דומים. כשמגיעה שאלה, גם היא מומרת, ומסד הנתונים מחזיר את הקטעים עם המספרים הדומים ביותר. כך „המכשיר כבר לא מקרר טוב“ מוצא גם את הקטע במדריך „ביצועי הקירור יורדים“.
מהו Qdrant?
Qdrant הוא מסד נתונים וקטורי בקוד פתוח, כתוב ב-Rust ומותר לשימוש חופשי ברישיון Apache 2.0. הוא רץ על השרת שלכם או כשירות מנוהל. לעסקים חשובים שני דברים: Qdrant יכול לשלב כל חיפוש עם מסננים (רק הנתונים של הלקוח הזה, רק מסמכים תקפים, רק השפה הזאת), והוא יכול לשלב חיפוש לפי משמעות עם חיפוש מילות מפתח. כך מק״טים וקודי שגיאה נמצאים בדיוק כמו שאלות מנוסחות אחרת.
אצלנו כל וקטור נושא את מזהה הלקוח, וכל חיפוש מסנן לפיו. את ההמרה לווקטורים עושה כרגע מודל Embedding חיצוני. למידע חסוי אפשר לעשות את זה גם מקומית לגמרי, למשל עם bge-m3 או Qwen3-Embedding, שניהם זמינים דרך Ollama.
גרף או וקטור? שניהם.
| שאלה | גרף (Neo4j) | וקטור (Qdrant) |
|---|---|---|
| מה מחובר לזה? | חזק: עוקב אחרי קשרים בכמה שלבים | חלש: לא מכיר קשרים |
| איפה כתוב משהו דומה? | חלש: צריך מונחים מדויקים | חזק: מוצא ניסוחים אחרים |
| מה היה תקף במרץ? | חזק: קשתות עם „בתוקף מ/עד“ | רק דרך מסננים על שדות תאריך |
| מספרים, סכומים, רשימות | חזק: שאילתות מדויקות | לא מתאים |
הגרף אומר מה שייך למה ומה תקף. החיפוש הווקטורי מוצא את המקום הנכון בטקסט. יחד הם נותנים למודל בדיוק את החומר שהוא צריך לתשובה טובה.
RAG: איך ה-AI עונה מתוך הנתונים שלכם
RAG הוא קיצור של Retrieval-Augmented Generation: לענות אחרי שמחפשים קודם. המודל לא עונה מהזיכרון, אלא מקבל קודם את הקטעים המתאימים מהנתונים שלכם. למערכת RAG יש שלושה שלבים:
- חיפוש: החיפוש הווקטורי והגרף מוצאים את הקטעים והעובדות לשאלה.
- הרכבה: רק הקטעים האלה עוברים למודל, עם המקור שלהם ועם הכללים של הלקוח.
- תשובה: המודל מנסח את התשובה מתוך החומר הזה ומציין את המקור.
האם ChatGPT היא מערכת RAG? רק כשהיא מחפשת באינטרנט או בקבצים שהועלו. ההבדל במערכת RAG משלכם: אתם קובעים אילו מקורות קיימים, מי רשאי לראות מה, ושכל תשובה מגובה במקור.
GraphRAG: חיפוש שמכיר קשרים
חיפוש וקטורי לבדו מוצא קטעים דומים, אבל מפספס קשרים שלא כתובים באף משפט אחד. ב-GraphRAG המערכת עוקבת גם אחרי הקשתות בגרף: היא מוצאת את הקטע במדריך, ויודעת מהגרף לאיזה דגם הוא שייך, איזו אחריות חלה עליו ושיש לו דגם חלופי מאז מאי. זו הסיבה שאנחנו מריצים את שניהם.
הקשר חדש כל יום: איך ידע חיצוני נכנס
מרכז ידע טוב רק כמו המצב האחרון שלו. לכן הקליטה רצה כל הזמן, ולא פעם אחת:
- מיד: מקורות שיכולים להודיע (הזמנות בחנות, טפסים, הודעות צ׳אט) מדווחים על שינויים ב-Webhook, בדרך כלל תוך שניות.
- כמה פעמים ביום: מקורות בלי התראות (ניהול פרויקטים, מאגרי מסמכים) נבדקים במרווחי זמן קבועים.
- בלילה: חשבונות הפרסום, Search Console ו-Analytics נמשכים עבור היום הקודם ומושווים. אחר כך רצים הסוכנים שהופכים את זה להצעות לבוקר.
- מבחוץ, לפי הצורך: מחירים בזירות מסחר, חגים וימי מבצעים, חוקים חדשים או כללי פלטפורמות נשאלים באופן ממוקד ונשמרים עם מקור ותאריך.
כל פיסת מידע חדשה מקבלת את הזמן שבו היא נוצרה. אם היא סותרת מידע ישן, הישן לא נמחק אלא נסגר עם „בתוקף עד“. כך המערכת רואה בבוקר שלמחרת מה השתנה, ויכולה להסביר את זה.
איך נמנעים מהזיות AI: שבעה כללים
הזיה היא תשובה שנשמעת משכנעת אבל לא נכונה. אצל מודלי שפה אי אפשר לשלול אותה לגמרי, ומי שמבטיח את זה מבטיח יותר מדי. אבל אפשר להפוך אותה לנדירה, וחשוב יותר, לניתנת לזיהוי. אלה הכללים שאנחנו מיישמים:
- תשובות רק מתוך חומר שנמצא. המודל מקבל את הקטעים המתאימים והוראה לענות רק מתוכם.
- כל תשובה מציינת את המקור שלה. קישור למדריך, למייל או לרשומה. בלי מקור אין טענה.
- „לא נמצא“ היא תשובה מותרת. עדיף שהמערכת תודה שהיא לא יודעת מאשר שתנחש.
- מספרים מגיעים ממסד הנתונים, אף פעם לא מהמודל. קודם שולפים את המספרים, ואז המודל כותב סביבם את הטקסט. כך אפשר לבדוק כל מספר.
- פורמטים קבועים במקום טקסט חופשי. כשתשובה ממשיכה לעיבוד, המודל חייב להחזיר פורמט קבוע שהתוכנה בודקת. אם הוא לא מתאים, התשובה נזרקת במקום לנחש.
- רק ידע תקף. בזכות ציר הזמן בגרף, המודל רואה את המחיר הנוכחי ולא את המחיר של שנה שעברה.
- אדם מאשר, וכל תשובה מתועדת. אדם בודק את מה שיוצא החוצה. כל בקשה נרשמת עם הקלט, הפלט והעלות, והשגיאות נספרות. אם שיעור השגיאות עולה, המערכת עוצרת את המשימה הרלוונטית.
AI מקומי: אילו מודלים הגיוניים היום
LLM מקומי הוא מודל שפה שאת המשקולות שלו מורידים ומריצים על חומרה משלכם. מאז 2025 מודלים פתוחים השתפרו מספיק כדי לבצע באופן אמין משימות יומיומיות רבות בעסק: סיווג, סיכום, שליפת נתונים מטקסט, כתיבת טיוטות ועבודה עם כלים. בניתוחים מורכבים המודלים הגדולים של הספקים עדיין מובילים.
Ollama, LM Studio או vLLM?
- Ollama: הדרך הפשוטה ביותר על שרת או על Mac. פקודה אחת מורידה מודל, וממשק API הופך אותו לזמין לתוכנות אחרות. אנחנו משתמשים ב-Ollama.
- LM Studio: אפליקציית דסקטופ עם ממשק, טובה לניסויים על המחשב שלכם.
- vLLM: לשרתים עם כרטיסים גרפיים, כשצריך לענות על הרבה בקשות במקביל.
שלושה כללי אצבע לחומרה
- הזיכרון קובע, לא המעבד. המודל חייב להיכנס במלואו לזיכרון ה-RAM (או לזיכרון של הכרטיס הגרפי). חשבו את גודל הקובץ של המודל ועוד 2 עד 4 GB להקשר ולמערכת.
- קוונטיזציה היא המצב הרגיל. מודלים נטענים בדרך כלל עם 4 ביט לכל משקולת במקום 16. זה חוסך שלושה רבעים מהזיכרון ועולה מעט באיכות. גרסאות „QAT“ מוכנות לכך כבר באימון ומאבדות עוד פחות.
- Apple Silicon וכרטיסים גרפיים מהירים, מעבד בלבד איטי. Mac עם הרבה זיכרון משותף או PC עם כרטיס גרפי חזק עונים תוך שניות. בלי כרטיס גרפי זה עדיין עובד, אבל מתאים יותר למשימות שיכולות לרוץ ברקע. כך בדיוק רץ השרת שלנו.
הסקירה שלהלן מציגה מודלים שזמינים בספריית Ollama באוקטובר 2026, עם גודל ההורדה בגרסת 4 ביט. בחרו את גודל הזיכרון של המחשב שלכם.
איזה AI מקומי מתאים לאיזה מחשב
נכון ל-23 באוקטובר 2026. לכל גודל זיכרון, המודלים הפתוחים החזקים ביותר, בחלוקה לטקסט, קוד, תמונות ווידאו. הגדלים הם גודלי ההורדה של הגרסה שצוינה (לרוב 4 ביט). ב-Mac יחידת הגרפיקה מקבלת כברירת מחדל רק כשני שלישים עד שלושה רבעים מהזיכרון, וזה נלקח בחשבון.
16 GB: נקודת הכניסה
מודל אחד בכל פעם, לעבודה שגרתית ברקע. לא מספיק לווידאו.
| שימוש | מודל | גודל | למה |
|---|---|---|---|
| טקסט | gemma4:12b-it-qat | 7.2 GB | המודל הכללי הטוב ביותר ל-16 GB (רץ אצלנו) |
| טקסט | qwen3.5:9b | 6.6–7.6 GB | מהיר, מבין גם תמונות |
| קוד | qwen3.5:9b | 6.6–7.6 GB | עזרה קטנה בקוד, בלי סוכנים |
| תמונות | FLUX.2 [klein] 4B | ≈ 8 GB | תמונות מהירות, Apache 2.0 |
| תמונות | Z-Image-Turbo 6B | ≈ 12 GB | מראה צילומי ב-8 צעדים, Apache 2.0 |
| חיפוש (Embeddings) | bge-m3 | 1.2 GB | חיפוש וקטורי, רב-לשוני |
חומרה מתאימה: MacBook Air או Mac mini עם 16 GB, או שרת קטן.
32 GB: הסטנדרט הסביר
מכאן מודל עונה היטב על שאלות לקוחות ממרכז הידע, עובד עם כלים וכותב קוד סביר.
| שימוש | מודל | גודל | למה |
|---|---|---|---|
| טקסט | qwen3.8:27b | 18 GB | המודל החזק ביותר במחלקה, הקשר ארוך |
| טקסט | gemma4:31b-it-qat | 19 GB | גרמנית טובה מאוד |
| טקסט | gpt-oss:20b | 14 GB | כלים וסוכנים (רץ אצלנו) |
| קוד | devstral-small-2:24b | 15 GB | סוכן תכנות, SWE-bench Verified 65.8% |
| קוד | qwen3.6:35b | 23–24 GB | מהיר (רק 3 מיליארד פרמטרים פעילים) |
| תמונות | Qwen-Image-2512 (Q4–Q5) | 12–15 GB | הטקסט הטוב ביותר בתוך תמונה, Apache 2.0 |
| תמונות | FLUX 3 Image Klein | 11 GB | FLUX החדש ביותר, גם עריכה (תקרת הכנסות) |
| וידאו | Wan 2.2 TI2V-5B | ≈ 10 GB | 720p, חמש שניות, Apache 2.0; איטי ב-Mac |
חומרה מתאימה: Mac עם 32 GB, או PC עם כרטיס גרפי של 24 GB ומעלה.
64 GB: כמה מודלים במקביל
כמה מודלים נשארים טעונים, מסמכים ארוכים נכנסים להקשר, ותמונות באיכות מלאה.
| שימוש | מודל | גודל | למה |
|---|---|---|---|
| טקסט | qwen3.8:27b (Q8) | ≈ 31 GB | האיכות המלאה של מודל ה-27B |
| טקסט | gemma4 + gpt-oss + bge-m3 | ≈ 23 GB | מודל טקסט, כלים וחיפוש יחד (המבנה שלנו) |
| קוד | qwen3-coder-next | 52 GB | מודל הקוד הטוב ביותר ל-64 GB, צפוף |
| תמונות | Qwen-Image-2512 (BF16) | 41 GB | איכות מלאה, Apache 2.0 |
| וידאו | LTX-2.5 (Q8) | 23 GB | וידאו עם סאונד (תקרת הכנסות) |
| וידאו | Wan 2.2 A14B (GGUF) | 15–30 GB | איכות התנועה הפתוחה הטובה ביותר, Apache 2.0; איטי מאוד ב-Mac |
חומרה מתאימה: Mac Studio או Mac mini עם 64 GB, או שרת עם 64 GB RAM וכרטיס גרפי.
128 GB: מודלים פתוחים גדולים
המודלים הפתוחים הגדולים רצים בבית. בהרבה משימות הם מתקרבים למודלים של הספקים הגדולים.
| שימוש | מודל | גודל | למה |
|---|---|---|---|
| טקסט | gpt-oss:120b | 65 GB | מהיר, הסקה טובה, Apache 2.0 |
| טקסט | qwen3.5:122b | 81 GB | מודל כללי חזק עם הבנת תמונות |
| קוד | qwen3-coder-next (Q8) | 85 GB | קוד בלי אובדן איכות |
| קוד | devstral-2:123b | 75 GB | SWE-bench Verified 72.2% (הרישיון מחריג חברות גדולות מאוד) |
| תמונות | Qwen-Image-2512 + Edit-2511 | je 41 GB | יצירה ועריכה, Apache 2.0 |
| וידאו | LTX-2.5 (BF16) | 42 GB | איכות מלאה עם סאונד (תקרת הכנסות) |
| וידאו | Wan 2.2 A14B (BF16) | ≈ 60 GB | אפשרות הווידאו הטובה ביותר ב-Apache |
חומרה מתאימה: Mac Studio M5 Max עם 128 GB, NVIDIA DGX Spark, או PC עם AMD Ryzen AI Max+ 395 (128 GB).
256 GB: מודלי צמרת בבית
כאן רצים מודלים עם 300 עד 400 מיליארד פרמטרים, שמהם רק חלק קטן עובד על כל מילה (Mixture of Experts). לרוב הם לא נמצאים בספריית Ollama, אלא רצים כקובץ GGUF דרך llama.cpp או LM Studio.
| שימוש | מודל | גודל | למה |
|---|---|---|---|
| טקסט | DeepSeek-V4-Flash (284B, 13B aktiv) | 155–162 GB | הקשר של מיליון טוקנים, MIT; כ-35 טוקנים לשנייה על M3 Ultra (MacStories) |
| טקסט | Qwen3.5-397B-A17B (IQ4_XS) | 190 GB | מודל הדגל הפתוח של Qwen, Apache 2.0 |
| קוד | GLM-5.3-Flash (320B, 18B aktiv) | 157–200 GB | מודל חזק לקוד ולסוכנים, MIT |
| קוד | Qwen3.8-Flash-Next (Q8) | 189 GB | סוכן קוד בדיוק מלא (רישיון Qwen Community) |
| תמונות | Qwen-Image, LTX-2.5, Wan 2.2 | 41–64 GB | כמו ב-128 GB: יותר זיכרון כמעט לא עוזר לתמונות ולווידאו, כוח הגרפיקה קובע |
חומרה מתאימה: Mac Studio M5 Ultra עם 256 GB, או שני NVIDIA DGX Spark מחוברים.
512 GB: המקסימום על מחשב אחד
המודלים הפתוחים הגדולים ביותר שעדיין נכנסים למחשב אחד, עם 675 עד 750 מיליארד פרמטרים. איטי יותר מבענן, אבל כולו בבית.
| שימוש | מודל | גודל | למה |
|---|---|---|---|
| טקסט | Mistral Large 3 (675B, 41B aktiv) | 360–388 GB | ספק אירופי, Apache 2.0 |
| טקסט | DeepSeek-V4.1-Flash (Q4) | ≈ 300 GB RAM | DeepSeek החדש ביותר, חלק נשאר על ה-SSD; MIT |
| קוד | GLM-5.3 (744B, 40B aktiv) | 343–365 GB | מודל הקוד הפתוח החזק ביותר שנכנס ל-Mac (רישיון GLM משלו) |
| קוד | qwen3-coder:480b | 290 GB | ישן יותר (2025), אבל ישירות מ-Ollama, Apache 2.0 |
חומרה מתאימה: Mac Studio M5 Ultra עם 512 GB.
כבר לא נכנסים: Kimi K3 (2.8 טריליון פרמטרים) ו-DeepSeek-V4-Pro (1.6 טריליון). בשבילם צריך שרת עם כמה כרטיסים גרפיים או כמה מחשבי Mac מחוברים.
עם כרטיס גרפי: מהירות, תמונות ווידאו
כרטיס גרפי של NVIDIA מהיר בהרבה מ-Mac לתמונות ובעיקר לווידאו, כל עוד המודל נכנס לזיכרון שלו (VRAM). להרבה בקשות במקביל vLLM עדיף על Ollama.
| שימוש | מודל | גודל | למה |
|---|---|---|---|
| טקסט | qwen3.8:27b, gemma4:31b | 18–19 GB | חלק על 24–32 GB VRAM (RTX 4090/5090) |
| קוד | devstral-small-2:24b | 15 GB | סוכן תכנות על כרטיס אחד |
| תמונות | FLUX 3 Image Klein (INT8) | ≈ 6 GB | כ-4 שניות לתמונה על RTX 5090 (יצרן) |
| וידאו | Wan 2.2 TI2V-5B | ≥ 24 GB VRAM | קליפים ב-720p בדקות במקום בשעות |
| טקסט | gpt-oss:120b | 65 GB | על RTX PRO 6000 (96 GB) בלי פשרות |
| וידאו | Wan 2.2 A14B | ≥ 80 GB VRAM | איכות וידאו מלאה בלי העברה לזיכרון אחר |
חומרה מתאימה: RTX 4090 או 5090 (24–32 GB) להתחלה, ו-RTX PRO 6000 (96 GB) ככרטיס הבודד הטוב ביותר.
לשכור במקום לקנות: לבדיקה מספיק שרת שכור עם כרטיס גרפי בחוות שרתים באירופה, לפי שעה או לפי חודש.
דיבור וחיפוש: מודלים קטנים, תועלת גדולה
המודלים האלה קטנים ורצים כמעט על כל מחשב לצד מודל שפה: תמלול פגישות, הקראת טקסטים, הכנת מסמכים לחיפוש.
| שימוש | מודל | גודל | למה |
|---|---|---|---|
| דיבור לטקסט | Whisper large-v3-turbo | ≈ 1.6 GB | הסטנדרט לתמלול, גרמנית טובה, MIT |
| דיבור לטקסט | Parakeet TDT 0.6B v3 | ≈ 1.2 GB | 25 שפות אירופיות, מהיר מאוד (CC-BY) |
| טקסט לדיבור | Chatterbox Multilingual | ≈ 1 GB | 23 שפות כולל גרמנית, קולות מותאמים, MIT |
| טקסט לדיבור | Qwen3-TTS 1.7B | ≈ 3.5 GB | גרמנית, עיצוב קולות, Apache 2.0 |
| חיפוש (Embeddings) | qwen3-embedding:8b | 4.7 GB | מוביל בחיפוש רב-לשוני, Apache 2.0 |
| חיפוש (Embeddings) | bge-m3 | 1.2 GB | מוכח ל-RAG, MIT |
חומרה מתאימה: כל מחשב מ-16 GB ומעלה.
הערה: ל-Kokoro הפופולרי אין קולות בגרמנית.
איזו חומרה ל-AI מקומי? השוק באוקטובר 2026
שלוש דרכים שעובדות היום: Apple עם זיכרון משותף (שקט, הרבה זיכרון, בלי CUDA), כרטיסים גרפיים של NVIDIA (הכי מהיר, אבל מעט זיכרון לכל כרטיס) ו-AMD Ryzen AI Max (הדרך הזולה ביותר ל-128 GB). בחרו מכשיר.
Mac mini: הקופסה השקטה שתמיד דולקת
M6 עם 16, 24 או 32 GB (153–170 GB/s), ו-M5 Pro עם 24, 48 או 64 GB (307 GB/s).
- מתאים ל: מרכז ידע במשרד, מודלים עד 14 מיליארד פרמטרים (M6); עם M5 Pro ו-64 GB גם מודלים של 70B
- אבל: מקסימום 64 GB; באמזון יש רק תצורות קטנות, יותר זיכרון רק אצל Apple
MacBook: AI שלוקחים איתכם
MacBook Air M5 עם עד 32 GB; MacBook Pro עם M5 Pro (עד 64 GB) או M5 Max (36–128 GB, עד 614 GB/s).
- מתאים ל: AI בדרכים; MacBook Pro M5 Max עם 128 GB הוא המחשב הנייד היחיד ל-gpt-oss-120b
- אבל: ל-Air אין מאוורר והוא מאט בריצות ארוכות; 128 GB רק ישירות מ-Apple
Mac Studio: הכי הרבה זיכרון על שולחן אחד
M5 Max עם 36–128 GB (עד 614 GB/s), M5 Ultra עם 96, 256 או 512 GB (1.2 TB/s). לפי Apple גרסת ה-512 GB מגיעה בסוף אוקטובר.
- מתאים ל: דרגות ה-256 וה-512 GB מהטבלה למעלה: DeepSeek-V4, GLM-5.3, Mistral Large 3 בבית
- אבל: בלי CUDA (Metal, MLX, llama.cpp); M5 Ultra רק אצל Apple, ובאמזון רק דגם הבסיס של M5 Max
RTX 5070 Ti ו-5080: כניסה זולה ל-CUDA
16 GB GDDR7 כל אחד (896 או 960 GB/s), 300 או 360 W.
- מתאים ל: תמונות (FLUX, Qwen-Image) ומודלים עד 14 מיליארד פרמטרים, מהר מאוד
- אבל: 16 GB זה צפוף למודלי שפה; צריך מחשב עם ספק כוח מתאים
RTX 5090: הכרטיס המהיר ביותר לבית
32 GB GDDR7 במהירות 1,792 GB/s, 575 W, מומלץ ספק כוח של 1,000 W ומעלה.
- מתאים ל: מודלים עד כ-32 מיליארד פרמטרים במהירות גבוהה, וידאו עם Wan 2.2, כוונון של מודלים קטנים
- אבל: חשמל ורעש; באמזון כרגע רק דרך מוכרים חיצוניים במחירים מנופחים מאוד, ולכן אין כאן קישור
RTX PRO 6000 Blackwell: הכרטיס הבודד הטוב ביותר
96 GB GDDR7 עם ECC, 1,792 GB/s, 600 W.
- מתאים ל: gpt-oss-120b, מודלים של 70B בדיוק גבוה, וידאו בלי פשרות, כוונון רציני
- אבל: מחיר גבוה מאוד; דרך משווקי מערכות ולא דרך אמזון
DGX Spark: CUDA עם 128 GB בקופסה קטנה
שבב Grace Blackwell GB10, 128 GB זיכרון משותף (273 GB/s). גם מ-ASUS, Dell, HP, Lenovo, MSI, Acer ו-Gigabyte.
- מתאים ל: לפי NVIDIA מודלים עד 200 מיליארד פרמטרים, ושני מכשירים מחוברים עד 400 מיליארד; כלי CUDA כמו בחוות שרתים
- אבל: רוחב הפס של הזיכרון נמוך, והתשובות איטיות בהרבה מאשר ב-RTX 5090 או ב-M5 Ultra; לינוקס על ARM
Ryzen AI Max+ 395: 128 GB במחיר הנמוך ביותר
16 ליבות, Radeon 8060S, עד 128 GB זיכרון משותף (כ-256 GB/s). למשל GMKtec EVO-X2, Minisforum MS-S1 Max, HP Z2 Mini G1a, Framework Desktop.
- מתאים ל: gpt-oss-120b, מודלים של 70B ומודלי Mixture-of-Experts גדולים במשרד, בלי Mac ובלי כרטיס גרפי יקר
- אבל: רוחב פס של כחמישית מ-M5 Ultra; התוכנה (ROCm, Vulkan) פחות בשלה מ-CUDA. היורש Ryzen AI Max+ PRO 495 (עד 192 GB) זמין בהזמנה מוקדמת, אבל עוד לא באמזון.
HP Z2 Mini G1a: אותה מחלקה עם תמיכה עסקית
Ryzen AI Max+ PRO 395 עם עד 128 GB, מתוכם עד 96 GB לגרפיקה.
- מתאים ל: חברות שרוצות אחריות, ניהול מרחוק ויצרן מוכר
- אבל: באמזון רק תצורת 64 GB, ו-128 GB דרך משווקים
מקומי או API חיצוני? זה תלוי במשימה
השאלה היא לא „מקומי או ענן“, אלא: איזו משימה צריכה איזה מודל? בחרו משימה.
מחירי קנייה, חוזים, נתוני עובדים
מה שלא אמור לצאת מהבית מטופל על ידי מודל מקומי. מחירי קנייה, מרווחים, חוזים או קורות חיים לא צריכים להישלח אף פעם לספק, גם לא בהצפנה. האיכות מספיקה בדרך כלל לגמרי לסיווג, סיכום והשוואה.
אלפי משימות קטנות
תיוג אלפי מוצרים, סיווג מונחי חיפוש, מיון מיילים: ב-API כל בקשה עולה כסף, ובמקומי רק חשמל. אצלנו מודל מקומי מסווג כל לילה את מונחי החיפוש מחשבונות הפרסום, לפני שסוכן מציע הצעות.
לפני שמשהו ממשיך הלאה
הסרת מידע אישי, פירוק טקסטים, זיהוי שפה, איתור כפילויות. אם אחר כך עדיין צריך API חיצוני, הוא מקבל רק את מה שנחוץ.
טיוטה מקומית, מקרים קשים דרך API
רוב השאלות חוזרות על עצמן: זמן אספקה, אחריות, קוד שגיאה. מודל מקומי כותב את הטיוטה מתוך מרכז הידע. אם פנייה חריגה או רגישה, היא עוברת למודל חזק יותר. בשני המקרים אדם מאשר.
עובדות במקומי, ליטוש דרך API
מודל מקומי שולף את העובדות (מידות, דירוג אנרגטי, תכולת אריזה) מנתוני המוצר. בדפי קטגוריה או במוצרים חשובים, שבהם הטון ומנועי החיפוש חשובים, מודל חזק כותב את הטקסט על בסיס העובדות האלה בדיוק.
תמלול במקומי, ניתוח לפי התוכן
התמלול של שיחה נעשה במקומי. אם הסיכום ירוץ במקומי או דרך API תלוי במה שדובר. דברים חסויים נשארים בבית.
כשהאיכות עושה את ההבדל
ניתוח קמפיינים על פני שלושה חודשים, קונספט, הערכה של הצעת מחיר: כאן המודלים הגדולים טובים בבירור, ובקשה עולה בדרך כלל רק סנטים. המודל מקבל את המספרים והקטעים הנחוצים, לא את מסד הנתונים.
לקוראים שחשובים
ניוזלטרים, מאמרי הדרכה, תרגומים לכמה שפות: מודלים גדולים טובים בבירור בטון, בסגנון ובניואנסים. העובדות עדיין מגיעות ממרכז הידע.
פיתוח עם עוזרי AI
לפיתוח תוכנה בטרמינל אנחנו משתמשים במודלים החזקים ביותר שזמינים. ההקשר של הפרויקט מגיע ממרכז הידע דרך MCP, ופרטי גישה נשארים בחוץ.
קודם עם המודל הטוב ביותר, ואז להעביר
משימה חדשה אנחנו בודקים קודם עם מודל חזק, כדי לראות מה אפשרי. כשהיא עובדת באופן יציב, אנחנו בודקים אם מודל מקומי עושה אותה באותה רמה. לעיתים קרובות זה המצב, והעלויות השוטפות יורדות.
AI שתואם GDPR: מה חשוב
מודלים מקומיים פותרים הרבה שאלות של הגנת פרטיות, כי הנתונים לא יוצאים מהבית. כשמשתמשים ב-API חיצוני, חלים אותם כללים כמו על כל ספק שירות אחר:
- הסכם עיבוד נתונים עם הספק, ועיבוד בתוך האיחוד האירופי היכן שהוא מוצע.
- בלי אימון על הנתונים שלכם: בממשקים העסקיים של הספקים הגדולים זה ברירת המחדל, אבל כדאי לבדוק את זה בחוזה.
- לשלוח רק את מה שנחוץ: מרכז הידע נותן למודל עשרה קטעים מתאימים, לא את מאגר הלקוחות. מידע אישי מוסר מראש במקומי, היכן שאין בו צורך.
- סימון: מי שמדבר עם עוזר צ׳אט צריך לדעת שעונה לו AI. גם ה-EU AI Act דורש את זה.
- להחליט במודע מה נכנס: אם לקלוט מיילים, קבוצות צ׳אט או סיכומי פגישות זו החלטה שמקבלים עם הממונה על הגנת הפרטיות, ולא הגדרת ברירת מחדל טכנית.
זה לא מחליף ייעוץ משפטי, אבל זה מראה למה הארכיטקטורה עוזרת כאן: מי שמחזיק את הנתונים שלו בעצמו יכול להחליט לכל משימה לאן הם הולכים.
מה סוכני AI באמת אומרים במערכת כזאת
סוכן הוא לא סתם צ׳אטבוט עם שם. לסוכן מוגדר היטב יש תפקיד, משימות, גישה למקורות מסוימים, גבולות ברורים ומערכת משוב. סוכן SEO עובד אחרת מסוכן Google Ads או מסוכן שירות. מכיוון שהתפקיד, ההנחיות וכל הרצה נשמרים בגרף, אפשר לחדד סוכן בכל רגע, ותמיד אפשר לדעת מה הוא עשה.
לאוטומט, להציע, או להשאיר בכוונה
לא כל משימה צריך לאוטומט. חלק מהתהליכים רצים באופן אוטומטי לגמרי כשהסיכון והמורכבות נמוכים, כמו בדיקות טכניות או סיווג נתונים. אחרים רק מייצרים הצעות שאדם בודק: תקציבים, תקשורת עם לקוחות, תוכן. ואחרים רגישים מדי או לא מספיק סטנדרטיים. שם המערכת אוספת קודם ידע, ואנחנו מעריכים מחדש בהמשך.
הדרך המציאותית ל-Dark Factory
פלטפורמה אוטונומית לא נבנית בין לילה. היא גדלה דרך מקרי שימוש אמיתיים, מודלי נתונים ברורים, תשתית מאובטחת ולמידה חוזרת. הדרך מתחילה בתצפית ובארגון, ממשיכה להצעות עם אישור, ובתהליכים מתאימים יכולה להוביל בהמשך לאוטומציה מבוקרת. צעד ראשון טוב הוא משימה אחת עם תועלת ברורה, למשל עוזר שעונה על שאלות על מוצרים מתוך מדריכים ותנאי אחריות ומגבה כל תשובה במקור.
למה עסקי איקומרס מרוויחים במיוחד
לחנויות אונליין יש הרבה מקורות נתונים והרבה שאלות חוזרות: חנות, נתוני מוצר, מלאי, חשבונות פרסום, Search Console, Analytics, ניוזלטרים, שירות לקוחות, החזרות וספקים. דוגמה: חנות למוצרי חשמל ביתיים מקבלת כל יום את אותן שאלות על קודי שגיאה, דירוג אנרגטי ואחריות. כשנתוני המוצר, המדריכים ותנאי האחריות נמצאים במרכז הידע, עוזר הצ׳אט עונה על השאלות האלה עם קישור לעמוד הנכון, צוות השירות מקבל טיוטות מוכנות, ועובדים חדשים לומדים מאותן תשובות.
כלי AI בודד או מרכז ידע פרטי?
| תחום | כלי AI בודד | מרכז ידע פרטי |
|---|---|---|
| אחסון הידע | הידע נמצא בצ׳אטים או בפרויקטים של כלי | הידע נמצא בתשתית משלכם, בשליטתכם |
| תלות במודל | תלוי בספק אחד ובמגבלות שלו | מודלים שונים דרך API או מקומית |
| הקשר | מוגבל בטוקנים, בחבילות ובלוגיקת הפרויקט | ניתן להרחבה דרך חיפוש, גרף ומבנה נתונים |
| מקורות נתונים | לרוב מודבקים ידנית או מפוזרים | המקורות מחוברים באופן שיטתי |
| סוכנים | בעיקר עוזרי צ׳אט כלליים | סוכנים עם תפקיד, משימות וגבולות |
| משוב | נשאר בהיסטוריית הצ׳אט | משפר סוכנים ותהליכים |
| אוטומציה | תהליכים או פרומפטים בודדים | תהליכים עם אישורים ונקודות בקרה |
| אבטחה | תלויה בהגדרות של הספק | פרטי, מקומי או בהפרדה לכל לקוח |
| ערך לטווח ארוך | פרודוקטיביות מהירה | זיכרון ארגוני שהולך וגדל |
מחקר עם FFG Project Start: שבע שאלות שאנחנו בודקים
המטרה היא לא להכריז בחיפזון על מוצר מוגמר, אלא לבדוק באמת.
אילו מקורות נתונים באמת מוסיפים ערך?
לא כל חיבור הגיוני. אנחנו בודקים אילו מקורות באמת מאפשרים החלטות טובות יותר: חנות, חשבונות פרסום, Search Console, Analytics, CRM, מייל, שירות, מסמכים, ניהול פרויקטים. מה שקובע הוא התועלת המעשית ביום-יום.
אילו תפקידי סוכנים הגיוניים?
סוכן טוב צריך תפקיד ברור. לסוכן SEO, Google Ads, שירות, איקומרס או ניהול פרויקטים יש לכל אחד משימות, מקורות וגבולות אחרים. השאלה היא לא רק אם סוכן אפשרי טכנית, אלא אם הוא מוסיף ערך ביום-יום.
אילו משימות אפשר לאוטומט לגמרי?
משימות שחוזרות על עצמן, בסיכון נמוך ועם כללים ברורים: ארגון נתונים, סיווג פשוט, ניטור, בדיקות טכניות, סיכומים פנימיים. גם כאן צריך תיעוד, בקרה וטיפול מסודר בשגיאות.
איפה הצעות עדיפות על טייס אוטומטי?
משימות רבות ובעלות ערך לא צריכות להתבצע אוטומטית מיד. ה-AI מכין הצעות, דוחות, טיוטות או התראות, ואנשים בודקים ומאשרים. במיוחד בתקציבים, תקשורת עם לקוחות, המלצות, תוכן ושינויים טכניים.
אילו תהליכים לא כדאי לאוטומט היום?
חלק מהתהליכים רגישים מדי, מורכבים מדי או תלויים מדי בהקשר אנושי. אז עדיף לאסוף קודם ידע, לצפות בתהליך ולהעריך מחדש בהמשך, במקום לכפות אוטומציה.
איך משוב משפר את הסוכנים?
האם הצעה התקבלה, שונתה או נדחתה? איזה מידע היה חסר? משוב כזה נשמר, ועם הזמן משפר הנחיות, תפקידים, מודלי נתונים ותהליכים.
איך המערכת נשארת עצמאית ומאובטחת?
שכבת הידע נשארת עצמאית מכל מודל בודד. זה כולל תפיסות אבטחה למפתחות גישה, גישה לנתונים, גיבויים, הפרדה בין לקוחות ואישורים. בלי היסודות האלה, תשתית AI הופכת מהר למסוכנת.
שאלות נפוצות
Neo4j הוא מסד נתונים גרפי: הוא שומר דברים כצמתים ואת הקשרים ביניהם כקשתות, ומתופעל בשפת השאילתות Cypher. משתמשים בו כשהקשרים חשובים, למשל לגרפי ידע, המלצות, זיהוי הונאות, או כמו אצלנו, כזיכרון של סוכני AI.
גרסת Community היא קוד פתוח וחינמית, כולל הרצה על שרת משלכם. גרסת Enterprise, עם יכולות כמו Clustering, היא בתשלום, ו-AuraDB היא הגרסה המנוהלת עם מסלול כניסה חינמי.
Qdrant הוא מסד נתונים וקטורי בקוד פתוח. הוא שומר טקסטים כווקטורים ומוצא קטעים לפי משמעות, בשילוב מסננים וחיפוש מילות מפתח. הוא רץ על השרת שלכם או כשירות מנוהל, והוא מנוע החיפוש מאחורי מערכות RAG רבות.
מסד נתונים גרפי שומר מה מחובר למה ומה היה תקף ומתי. מסד נתונים וקטורי מוצא טקסטים דומים, גם כשמשתמשים במילים אחרות. מרכז ידע ל-AI צריך בדרך כלל את שניהם: את הגרף לקשרים ואת הווקטורים לחיפוש.
RAG הוא קיצור של Retrieval-Augmented Generation, כלומר לענות אחרי חיפוש. לפני התשובה, מודל השפה מקבל קטעים מתאימים מהנתונים שלכם ועונה מתוכם, ולא מהידע הכללי שלו.
עם 16 GB רצים היטב מודלים עד כ-12 מיליארד פרמטרים, כמו Gemma 4 12B. עם 32 GB מצטרפים Qwen 3.8 27B ו-gpt-oss 20B; עם 64 GB כמה מודלים במקביל ו-Qwen3-Coder-Next לקוד; עם 128 GB gpt-oss 120B. מ-256 GB רצים מודלי צמרת כמו DeepSeek-V4-Flash, ועם 512 GB GLM-5.3 ו-Mistral Large 3. נכון לאוקטובר 2026.
לא, אבל אפשר להפוך אותן לנדירות ולניתנות לזיהוי: תשובות רק מחומר שנמצא, כל תשובה עם מקור, „לא נמצא“ כתשובה מותרת, מספרים ישירות ממסד הנתונים ואישור אנושי לפני שמשהו יוצא החוצה.
חלקית. למשימות חוזרות ומארגנות מודלים מקומיים מתאימים מאוד, במיוחד כשהגנת פרטיות או עלות חשובות. לאסטרטגיה, כתיבה איכותית וניתוח תובעני, מודלים חיצוניים עדיין חזקים יותר. השילוב הוא בדרך כלל הטוב ביותר.
המונח מגיע מעולם הייצור: מפעל שבו מכונות עובדות בלי בני אדם לא צריך אור. במובן הדיגיטלי הוא מתאר מבנה שבו נתונים, סוכנים ונקודות בקרה עובדים יחד, והשגרה ממשיכה לרוץ ברקע. אנשים עדיין מחליטים היכן שזה חשוב.
היינו נזהרים. תהליכים בודדים כבר היום אפשר לאוטומט היטב או לתמוך בהם ב-AI. חברה אוטונומית לגמרי מורכבת הרבה יותר, כי איכות נתונים, אחריות, אבטחה, משפט ושיקול דעת אנושי משחקים תפקיד גדול. הדרך המציאותית היא בדיקה הדרגתית במקום הבטחות גדולות.
AI חזק מאוד בניתוח, בארגון ובהצעות, ובכל זאת קורות טעויות, סדרי עדיפויות שגויים או חוסר בהקשר. בתקציבים, תקשורת עם לקוחות, נושאים משפטיים, שינויים טכניים ומידע רגיש, אדם צריך לבדוק ולהחליט. תשתית AI טובה לא מחליפה בקרה, היא הופכת אותה ליעילה יותר.
העתיד של AI בעסק לא נמצא בפתרון של הכול בחלון צ׳אט אחד, אלא במערכת ידע משלכם, מאובטחת ומסודרת, שיכולה לעבוד עם מודלים שונים. חלק מהמשימות יעברו אוטומציה, חלק יוכנו כהצעות, וחלק יישארו בכוונה אצל בני אדם. ההבחנה הזאת היא הדרך המציאותית.
מחפשים סוכנות לפיתוח תוכנת AI? אנחנו מפתחים תוכנות AI וסוכני AI לעסקים קטנים ובינוניים. עוד על הטכנולוגיות שלנו.
