NeMo Guardrails چت ربات های هوش مصنوعی را در مسیر خود نگه می دارد

نرم افزار منبع باز جدید منتشر شده می تواند به توسعه دهندگان کمک کند هوش مصنوعی مولد برنامه های کاربردی برای ایجاد پاسخ های متنی چشمگیر که در مسیر باقی می مانند.

رید رابینسون، مدیر محصول اصلی هوش مصنوعی در Zapier می‌گوید: «ایمنی، امنیت و اعتماد سنگ بنای توسعه هوش مصنوعی مسئولانه هستند و ما از رویکرد فعال NVIDIA برای تعبیه این نرده‌های محافظ در سیستم‌های هوش مصنوعی هیجان‌زده هستیم.

برای جزئیات بیشتر در مورد NeMo Guardrails و برای شروع به ما مراجعه کنید وبلاگ فنی.

منبع: https://blogs.nvidia.com/blog/2023/04/25/ai-chatbot-guardrails-nemo/

این نرم افزار به توسعه دهندگان این امکان را می دهد که برنامه های مبتنی بر LLM را تراز کنند تا ایمن باشند و در حوزه های تخصص یک شرکت باقی بمانند.

به عنوان مثال، می تواند در بالای آن اجرا شود LangChain، یک جعبه ابزار منبع باز که توسعه دهندگان به سرعت در حال استفاده از آن برای اتصال برنامه های شخص ثالث به قدرت LLM هستند.

اپراتور تلفن همراه پیشرو کره جنوبی با استفاده از NeMo دستیار هوشمندی ساخت که 8 میلیون مکالمه با مشتریان خود داشته است. یک تیم تحقیقاتی در سوئد از NeMo برای ایجاد LLM استفاده کردند که می‌تواند عملکردهای متنی را برای بیمارستان‌ها، دفاتر دولتی و تجاری این کشور خودکار کند.

تلاش مداوم جامعه

تقریباً هر توسعه‌دهنده نرم‌افزاری می‌تواند از NeMo Guardrails استفاده کند – نیازی نیست که یک متخصص یادگیری ماشین یا دانشمند داده باشید. آنها می توانند قوانین جدید را به سرعت با چند خط کد ایجاد کنند.

بخوانید:   بازی‌های بودجه‌ای بزرگ فرصت‌های تلف می‌شوند | نقطه روشن

ابزار آشنا سواری

نرده محافظ نمو کمک می کند تا اطمینان حاصل شود که برنامه های هوشمند ارائه شده توسط مدل های زبان بزرگ (LLM) دقیق، مناسب، در مورد موضوع و ایمن هستند. این نرم افزار شامل تمام کدها، مثال ها و اسنادی است که کسب و کارها برای افزودن ایمنی به برنامه های هوش مصنوعی که متن تولید می کنند، نیاز دارند.

NeMo Guardrails توسعه دهندگان را قادر می سازد تا سه نوع مرز تعیین کنند:

  • نرده های محافظ موضعی از انحراف برنامه ها به مناطق نامطلوب جلوگیری کنید. به عنوان مثال، آنها دستیاران خدمات مشتری را از پاسخ دادن به سؤالات مربوط به آب و هوا باز می دارند.
  • نرده های ایمنی اطمینان حاصل کنید که برنامه ها با اطلاعات دقیق و مناسب پاسخ می دهند. آن‌ها می‌توانند زبان ناخواسته را فیلتر کنند و مجبور کنند فقط به منابع معتبر ارجاع داده شود.
  • نرده های امنیتی برنامه‌ها را محدود کنید تا فقط با برنامه‌های شخص ثالث خارجی که امن هستند، ارتباط برقرار کنند.
با هم، تلاش‌های ما در زمینه نرده‌های محافظ به شرکت‌ها کمک می‌کند تا خدمات هوشمند خود را با الزامات ایمنی، حفظ حریم خصوصی و امنیتی هماهنگ کنند تا این موتورهای نوآوری در مسیر خود باقی بمانند.

بیشتر چارچوب NeMo در حال حاضر به عنوان کد منبع باز در GitHub در دسترس است. شرکت ها همچنین می توانند آن را به عنوان یک بسته کامل و پشتیبانی شده، بخشی از آن، دریافت کنند NVIDIA AI Enterprise پلت فرم نرم افزاری

NVIDIA در حال ترکیب NeMo Guardrails است NVIDIA NeMo چارچوب، که شامل همه چیزهایی است که کاربران برای آموزش و تنظیم مدل‌های زبان با استفاده از داده‌های اختصاصی یک شرکت نیاز دارند.

بخوانید:   تریلر Dune 2 دارای The World At War و Timothee Chalamet Riding The Worm است

از آنجایی که NeMo Guardrails منبع باز است، می تواند با تمام ابزارهایی که توسعه دهندگان برنامه های سازمانی استفاده می کنند کار کند.

هریسون چیس که کیت ابزار LangChain و استارت‌آپی که نام آن را دارد، می‌گوید: «کاربران می‌توانند به راحتی NeMo Guardrails را به گردش‌های کاری LangChain اضافه کنند تا به سرعت مرزهای امن را در اطراف برنامه‌های مبتنی بر هوش مصنوعی خود قرار دهند.

ما مشتاقانه منتظر خوبی هستیم که هوش مصنوعی را به بخشی قابل اعتماد و قابل اعتماد در آینده تبدیل کنیم.»

در دسترس به عنوان منبع باز و از NVIDIA

ساختن نرده های محافظ خوب برای هوش مصنوعی مولد یک مشکل سخت است که با تکامل هوش مصنوعی به تحقیقات مداوم زیادی نیاز دارد.

NeMo نیز به عنوان یک موجود است سرویس. بخشی از بنیادهای هوش مصنوعی NVIDIA، خانواده ای از خدمات ابری برای کسب و کارهایی که می خواهند مدل های هوش مصنوعی مولد سفارشی را بر اساس مجموعه داده ها و دانش دامنه خود ایجاد و اجرا کنند.

NeMo Guardrails برای کمک به کاربران برای ایمن نگه داشتن این کلاس جدید از برنامه های کاربردی مبتنی بر هوش مصنوعی طراحی شده است.

مدل های قدرتمند، ریل های قوی

NVIDIA NeMo Guardrails – محصول تحقیقات چندین ساله – منبع باز را برای کمک به انرژی فوق العاده جامعه توسعه دهندگان و کار بر روی ایمنی هوش مصنوعی ساخته است.

علاوه بر این، NeMo Guardrails به گونه ای طراحی شده است که بتواند با طیف گسترده ای از برنامه های کاربردی دارای LLM کار کند، مانند زاپیر. Zapier یک پلت فرم اتوماسیون است که توسط بیش از 2 میلیون کسب و کار مورد استفاده قرار می گیرد و به طور مستقیم مشاهده شده است که کاربران چگونه هوش مصنوعی را در کار خود ادغام می کنند.

بخوانید:   Skullgirls در زمینه نفرت از ارجاعات گروهی، حساسیت نژادی و جنسیت بهبودهایی ایجاد می کند، به طور قابل پیش بینی در Steam مورد بازبینی قرار می گیرد.

انتشار امروز در حالی است که بسیاری از صنایع در حال استفاده از LLM هستند، موتورهای قدرتمندی که در پشت این برنامه‌های هوش مصنوعی قرار دارند. آنها به سوالات مشتریان پاسخ می دهند، اسناد طولانی را خلاصه می کنند، حتی نرم افزار می نویسند و طراحی دارو را تسریع می کنند.

ایمنی در هوش مصنوعی مولد یک نگرانی گسترده در صنعت است. NVIDIA NeMo Guardrails را برای کار با همه LLMها، مانند ChatGPT OpenAI طراحی کرده است.