نکات کلیدی ZDNET
مینی کامپیوتر Geekcom A7 قدرت کافی برای برخی از کارهای هوش مصنوعی را دارد.
این دستگاه برای ساخت یک برنامه، قدرت کافی ندارد.
اما با قیمت تنها 699 دلار، این کامپیوتر کوچک برای کارهای سبک هوش مصنوعی یک معامله عالی است.
وقتی به اجرای هوش مصنوعی محلی فکر می‌کنید، منطقی است که فرض کنید به قدرت زیادی نیاز خواهید داشت. من کارهای هوش مصنوعی محلی زیادی را روی System76 Thelio خود اجرا کرده‌ام – که دارای پردازنده 12 هسته‌ای AMD Ryzen 9 7900X، کارت گرافیک AMD Radeon RX 7600 (Navi 33) و 32 گیگابایت رم است – و متوجه شده‌ام که این سیستم کاملاً قادر به ساخت برنامه‌ها یا اجرای دیکته با هوش مصنوعی محلی است.
با توجه به اینکه مینی کامپیوتر Geekcom A7 به اندازه Thelio قدرتمند نبود، فرض کردم نتایج قابل مقایسه نخواهند بود؛ با پرشین موزیک این حال، با توجه به CPU رایزن و میزان رم، احتمال زیادی وجود داشت که بتواند از پس اکثر کارهای عادی برآید و احتمالاً بتواند بسیاری از کارهای هوش مصنوعی را نیز انجام دهد.
پس از باز کردن جعبه کامپیوتر، اوبونتو 26.10 (نسخه بتا) را نصب کردم تا پلتفرم دیکته با هوش مصنوعی Myna را آزمایش کنم. این هدف اصلی من بود زیرا Myna را روی دستگاه‌های دیگر آزمایش کرده بودم و در پردازش متن دیکته شده روی دستگاه‌های متوسط بسیار کند عمل می‌کرد (آن را روی یک ماشین مجازی با اوبونتو 26.10 و یک لپ‌تاپ با همان سیستم عامل آزمایش کردم). امیدوار بودم، با توجه به اینکه Canonical چگونه Myna را تبلیغ می‌کرد، Geekcom A7 Mini به من ثابت کند که این نرم‌افزار دیکته لینوکس است که باید داشته باشیم. نتایج مرا شگفت‌زده کرد.
A7 Mini چیست؟
Geekcom A7 Mini یک کامپیوتر کوچک (با ابعاد 5.47 x 5.2 x 1.71 اینچ) با CPU هشت هسته‌ای Ryzen 7 7730U، 16 رشته و فرکانس تا 4.5 گیگاهرتز است. CPU برای هوش مصنوعی بهینه‌سازی نشده است، برخلاف VZMORE AX9 Mini Max PC، بنابراین امیدهای من دقیقاً بالا نبود. همچنین 32 گیگابایت حافظه رم، یک SSD PCIe Gen4 با ظرفیت 500 گیگابایت، یک شاسی فلزی با کیفیت بالا با دو پورت USB-C، 5 پورت USB 3.2، دو پورت HDMI 2.0 و یک پورت LAN 2.5G دریافت می‌کنید.
در مورد خنک‌کننده، A7 Mini شامل فناوری IceBlast 3.0 با دو لوله حرارتی مسی و یک فن بزرگ است که تنها 32 دسی‌بل صدا تولید می‌کند و در عین حال سیستم را 52 درصد خنک می‌کند. یک سیستم خنک‌کننده قوی هنگام اجرای بارهای کاری هوش مصنوعی سنگین – دقیقاً همان چیزی که من قصد انجامش را داشتم – مهم است. A7 همچنین ادعا می‌کند که ضد گرد و غبار و خود تمیز شونده است، اما فقط زمان نشان خواهد داد که این ادعا درست است یا خیر. در طول آزمایش‌های هوش مصنوعی، صدای فن را می‌شنیدم، اما بیش از حد بلند نبود.
به نظر می‌رسد که اکثر کامپیوترهای امروزی اینگونه هستند. اما آیا می‌توانستم این دستگاه را کمی بیشتر تحت فشار قرار دهم؟ در ادامه آنچه برای آزمایش A7 Max انجام دادم، آمده است.
اولین آزمایش: Myna
من اوبونتو 26.10 (بتا) را برای آزمایش پلتفرم دیکته با هوش مصنوعی Myna از Canonical نصب کردم. Myna را روی دستگاه‌های دیگری مشابه A7 mini آزمایش کرده‌ام و نتایج متفاوت بوده‌اند. این کار دشوار است زیرا Myna در حال توسعه فعال است؛ هرگز نمی‌دانید که هر روز چگونه عمل خواهد کرد. به همین دلیل، مقایسه آزمایش‌های قبلی من با A7 دقیقاً منصفانه نبود. با این حال، می‌توانستم تعیین کنم که آیا A7 به اندازه کافی قدرتمند است که بتواند پردازش متن دیکته شده با هوش مصنوعی محلی را مدیریت کند یا خیر.
Myna از مدل‌های هوش مصنوعی محلی و آفلاین برای پردازش متن استفاده می‌کند و الزامات بسته به مدل انتخابی (مانند Whisper از OpenAI یا Parakeet از Nvidia) متفاوت است. من Parakeet را انتخاب کردم زیرا متوجه شدم که کمی سبک‌تر است و در عین حال از نظر توان عملیاتی از Whisper بهتر عمل می‌کند. و از آنجایی که من فقط از Myna برای یک زبان (انگلیسی) استفاده می‌کردم، نیازی به گستردگی زبان اضافی که Whisper ارائه می‌دهد، نداشتم. نکته دیگر این است که Whisper در مقابله با نویز پس‌زمینه بهتر عمل می‌کند، بنابراین می‌دانستم که این می‌تواند یک مشکل باشد.
از آنجایی که Myna به نسخه رسمی اوبونتو 26.10 اضافه نشده بود، مجبور شدم آن را نصب کنم که کار سختی نبود. نصب شامل دستورات زیر بود:
پس از اجرای دستورات بالا، باید مدل (Parakeet) را انتخاب می‌کردم. زمان آزمایش Myna روی A7 فرا رسیده بود.
برای اجرای آزمایش، یک سند جدید LibreOffice ایجاد کردم، مطمئن شدم که پنجره سند فعال است و کلید میانبر Myna (Super + J) را فشار دادم. به محض اینکه دیدم Myna در حال گوش دادن است، شروع به صحبت کردن در میکروفون خود کردم.
باید به خودم یادآوری می‌کردم که Myna هنوز در حال توسعه است. در تمام آزمایش‌های من تا کنون، دقت آن بهتر از بسیاری از نرم‌افزارهای دیکته‌ای بوده که امتحان کرده‌ام – اگرچه کامل نیست. می‌توانید چند خط اولی که دیکته کردم را ببینید و چند خطا وجود داشت:
- این Z Dnet نیست.
- نام خانوادگی من Mollin نیست.
- MINA به صورت Myna نوشته می‌شود.
- مشکلات عمومی نقطه‌گذاری.
طبیعتاً هنگام استفاده از نرم‌افزار دیکته، نیاز به اصلاحاتی خواهد بود. خوشبختانه، دقت هدف این آزمایش نبود. آنچه می‌خواستم ببینم این بود که Myna با چه سرعتی می‌تواند ورودی را پردازش کند. در کمال تعجب، Myna توانست ورودی را تقریباً در زمان واقعی پردازش کند. کمی تأخیر وجود داشت، اما نه به اندازه آنچه در ماشین مجازی که قبلاً آن را آزمایش کرده بودم، تجربه کرده بودم.
این انتظار می‌رفت زیرا ماشین‌های مجازی من منابع یک ماشین اختصاصی را ندارند. به سراغ آزمایش بعدی می‌رویم.
ساخت یک برنامه
سپس LM Studio’s Bionic را هم روی A7 Mini و هم روی System76 Thelio خود نصب کردم و از هر دو خواستم یک کلاینت ایمیل بسازند. این یک درخواست بزرگ است که به کار زیادی نیاز دارد. نتایج تعجب‌آور نبودند.
System76 Thelio من نسخه اولیه برنامه را تقریباً در 20 دقیقه ساخت، در حالی که A7 Mini هنوز در حال ساخت اولین نسخه در 30 دقیقه بود. در زمانی که من کلاینت ایمیل را روی Thelio دو بار بهبود بخشیده بودم، A7 Mini هنوز در حال ساخت برنامه بود.