NeMo Guardrails چت ربات های هوش مصنوعی را در مسیر خود نگه می دارد

برای جزئیات بیشتر در مورد NeMo Guardrails و برای شروع به ما مراجعه کنید وبلاگ فنی.

منبع: https://blogs.nvidia.com/blog/2023/04/25/ai-chatbot-guardrails-nemo/با هم، تلاش‌های ما در زمینه نرده‌های محافظ به شرکت‌ها کمک می‌کند تا خدمات هوشمند خود را با الزامات ایمنی، حفظ حریم خصوصی و امنیتی هماهنگ کنند تا این موتورهای نوآوری در مسیر خود باقی بمانند.

NeMo Guardrails برای کمک به کاربران برای ایمن نگه داشتن این کلاس جدید از برنامه های کاربردی مبتنی بر هوش مصنوعی طراحی شده است.

مدل های قدرتمند، ریل های قوی

علاوه بر این، NeMo Guardrails به گونه ای طراحی شده است که بتواند با طیف گسترده ای از برنامه های کاربردی دارای LLM کار کند، مانند زاپیر. Zapier یک پلت فرم اتوماسیون است که توسط بیش از 2 میلیون کسب و کار مورد استفاده قرار می گیرد و به طور مستقیم مشاهده شده است که کاربران چگونه هوش مصنوعی را در کار خود ادغام می کنند.

به عنوان مثال، می تواند در بالای آن اجرا شود LangChain، یک جعبه ابزار منبع باز که توسعه دهندگان به سرعت در حال استفاده از آن برای اتصال برنامه های شخص ثالث به قدرت LLM هستند.

رید رابینسون، مدیر محصول اصلی هوش مصنوعی در Zapier می‌گوید: «ایمنی، امنیت و اعتماد سنگ بنای توسعه هوش مصنوعی مسئولانه هستند و ما از رویکرد فعال NVIDIA برای تعبیه این نرده‌های محافظ در سیستم‌های هوش مصنوعی هیجان‌زده هستیم.

بخوانید:   برای یک نبرد پسا آخرالزمانی در کماندوی سمی جان کارپنتر آماده شوید
NeMo نیز به عنوان یک موجود است سرویس. بخشی از بنیادهای هوش مصنوعی NVIDIA، خانواده ای از خدمات ابری برای کسب و کارهایی که می خواهند مدل های هوش مصنوعی مولد سفارشی را بر اساس مجموعه داده ها و دانش دامنه خود ایجاد و اجرا کنند.

از آنجایی که NeMo Guardrails منبع باز است، می تواند با تمام ابزارهایی که توسعه دهندگان برنامه های سازمانی استفاده می کنند کار کند.

بیشتر چارچوب NeMo در حال حاضر به عنوان کد منبع باز در GitHub در دسترس است. شرکت ها همچنین می توانند آن را به عنوان یک بسته کامل و پشتیبانی شده، بخشی از آن، دریافت کنند NVIDIA AI Enterprise پلت فرم نرم افزاری

اپراتور تلفن همراه پیشرو کره جنوبی با استفاده از NeMo دستیار هوشمندی ساخت که 8 میلیون مکالمه با مشتریان خود داشته است. یک تیم تحقیقاتی در سوئد از NeMo برای ایجاد LLM استفاده کردند که می‌تواند عملکردهای متنی را برای بیمارستان‌ها، دفاتر دولتی و تجاری این کشور خودکار کند.

تلاش مداوم جامعه

NeMo Guardrails توسعه دهندگان را قادر می سازد تا سه نوع مرز تعیین کنند:

  • نرده های محافظ موضعی از انحراف برنامه ها به مناطق نامطلوب جلوگیری کنید. به عنوان مثال، آنها دستیاران خدمات مشتری را از پاسخ دادن به سؤالات مربوط به آب و هوا باز می دارند.
  • نرده های ایمنی اطمینان حاصل کنید که برنامه ها با اطلاعات دقیق و مناسب پاسخ می دهند. آن‌ها می‌توانند زبان ناخواسته را فیلتر کنند و مجبور کنند فقط به منابع معتبر ارجاع داده شود.
  • نرده های امنیتی برنامه‌ها را محدود کنید تا فقط با برنامه‌های شخص ثالث خارجی که امن هستند، ارتباط برقرار کنند.
بخوانید:   4 روش عالی برای پرورش اشک روپیه های پادشاهی و موارد دیگر
نرم افزار منبع باز جدید منتشر شده می تواند به توسعه دهندگان کمک کند هوش مصنوعی مولد برنامه های کاربردی برای ایجاد پاسخ های متنی چشمگیر که در مسیر باقی می مانند.

انتشار امروز در حالی است که بسیاری از صنایع در حال استفاده از LLM هستند، موتورهای قدرتمندی که در پشت این برنامه‌های هوش مصنوعی قرار دارند. آنها به سوالات مشتریان پاسخ می دهند، اسناد طولانی را خلاصه می کنند، حتی نرم افزار می نویسند و طراحی دارو را تسریع می کنند.

هریسون چیس که کیت ابزار LangChain و استارت‌آپی که نام آن را دارد، می‌گوید: «کاربران می‌توانند به راحتی NeMo Guardrails را به گردش‌های کاری LangChain اضافه کنند تا به سرعت مرزهای امن را در اطراف برنامه‌های مبتنی بر هوش مصنوعی خود قرار دهند.

تقریباً هر توسعه‌دهنده نرم‌افزاری می‌تواند از NeMo Guardrails استفاده کند – نیازی نیست که یک متخصص یادگیری ماشین یا دانشمند داده باشید. آنها می توانند قوانین جدید را به سرعت با چند خط کد ایجاد کنند.

ابزار آشنا سواری

نرده محافظ نمو کمک می کند تا اطمینان حاصل شود که برنامه های هوشمند ارائه شده توسط مدل های زبان بزرگ (LLM) دقیق، مناسب، در مورد موضوع و ایمن هستند. این نرم افزار شامل تمام کدها، مثال ها و اسنادی است که کسب و کارها برای افزودن ایمنی به برنامه های هوش مصنوعی که متن تولید می کنند، نیاز دارند.

NVIDIA در حال ترکیب NeMo Guardrails است NVIDIA NeMo چارچوب، که شامل همه چیزهایی است که کاربران برای آموزش و تنظیم مدل‌های زبان با استفاده از داده‌های اختصاصی یک شرکت نیاز دارند.

بخوانید:   Star Wars Jedi: Survivor on the Steam Deck یک آشفتگی داغ است

این نرم افزار به توسعه دهندگان این امکان را می دهد که برنامه های مبتنی بر LLM را تراز کنند تا ایمن باشند و در حوزه های تخصص یک شرکت باقی بمانند.

ساختن نرده های محافظ خوب برای هوش مصنوعی مولد یک مشکل سخت است که با تکامل هوش مصنوعی به تحقیقات مداوم زیادی نیاز دارد.

ما مشتاقانه منتظر خوبی هستیم که هوش مصنوعی را به بخشی قابل اعتماد و قابل اعتماد در آینده تبدیل کنیم.»

در دسترس به عنوان منبع باز و از NVIDIA

NVIDIA NeMo Guardrails – محصول تحقیقات چندین ساله – منبع باز را برای کمک به انرژی فوق العاده جامعه توسعه دهندگان و کار بر روی ایمنی هوش مصنوعی ساخته است.

ایمنی در هوش مصنوعی مولد یک نگرانی گسترده در صنعت است. NVIDIA NeMo Guardrails را برای کار با همه LLMها، مانند ChatGPT OpenAI طراحی کرده است.