اجرای هوش مصنوعی روی میکروکنترلر ۱۰ دلاری

یک برنامه‌نویس موفق شد یک مدل زبانی ۲۹ میلیون پارامتری را روی ESP32-S3 اجرا کند.

تتیم تحریریه۰ دقیقه مطالعه۰ بازدید۱۴۰۵/۵/۷
اجرای هوش مصنوعی روی میکروکنترلر ۱۰ دلاری

هوش مصنوعی در ابعاد کوچک

یک برنامه‌نویس موفق شد مدل هوش مصنوعی ۲۸.۹ میلیون پارامتری را روی میکروکنترلر ESP32-S3 که حدود ۱۰ دلار قیمت دارد، اجرا کند. او با استفاده از تکنیک Per-Layer Embeddings گوگل و ذخیره جداول داده در حافظه فلش ۱۶ مگابایتی، توانست این محدودیت‌های سخت‌افزاری را دور بزند. اگرچه این مدل تنها قادر به نوشتن داستان‌های کوتاه است، اما این دستاورد نشان می‌دهد که هوش مصنوعی محلی می‌تواند حتی بر روی ارزان‌ترین سخت‌افزارهای جهان اجرا شود.

نظرات۰

برای نوشتن نظر، وارد حساب خود شوید.

ورود / ثبت‌نام

هنوز نظری ثبت نشده — اولین نفری باش که نظر می‌دهد.