極客號(hào)(Xqh8.com) 7月17日 消息:最近,領(lǐng)先的人工智能研究組織 CarperAI 推出了 OpenELM,這是一個(gè)有望改變進(jìn)化搜索領(lǐng)域的開源庫。OpenELM(其中 ELM 代表大型模型進(jìn)化)將大型語言模型的強(qiáng)大功能與進(jìn)化算法相結(jié)合,能夠生成多樣化且高質(zhì)量的文本和代碼。OpenELM0.9版本的提出旨在為開發(fā)人員和研究人員提供一個(gè)特殊的工具來解決各個(gè)領(lǐng)域的復(fù)雜問題。與 OpenELM 一起,該團(tuán)隊(duì)還在 GPTP2023上發(fā)布了論文。
通過大型模型的演化 (ELM) 演示了法學(xué)碩士如何迭代地增強(qiáng)、批評(píng)和改進(jìn)其輸出。這項(xiàng)技能可用于提高語言模型解決問題的能力,并展示其作為語言和代碼智能搜索運(yùn)算符的潛力。ELM 背后的核心思想是 LLM 可以充當(dāng)進(jìn)化算法中變異的智能算子。OpenELM 利用這一潛力來提高語言模型解決問題的能力,從而能夠在模型在訓(xùn)練過程中可能未見過的領(lǐng)域創(chuàng)建多樣化的高質(zhì)量?jī)?nèi)容。該團(tuán)隊(duì)引入 OpenELM 的主要目標(biāo)有以下四個(gè):
1、開源——OpenELM 提供了 ELM 及其附帶的差分模型的開源版本,這使得開發(fā)人員可以自由使用該庫并做出貢獻(xiàn)。
2、模型集成:OpenELM 旨在輕松與封閉模型(只能與 OpenAI API 等商業(yè) API 一起使用)和開源語言模型(可以在本地或 Colab 等平臺(tái)上使用)配合使用。
3、用戶友好的界面和示例環(huán)境:OpenELM 旨在提供簡(jiǎn)單的用戶界面以及各種進(jìn)化搜索示例環(huán)境。
4、進(jìn)化潛力——OpenELM旨在展示語言模型與進(jìn)化相結(jié)合的進(jìn)化潛力,并展示智能變異算子如何利用龐大語言的可能性來幫助進(jìn)化算法,特別是在純文本代碼創(chuàng)建和創(chuàng)意寫作等領(lǐng)域楷模。
OpenELM 專注于質(zhì)量多樣性 (QD) 方法,例如 MAP-Elites、CVT-MAP-Elites 和 Deep Grid MAP-Elites,是一個(gè)功能豐富的庫,可以與眾所周知的進(jìn)化技術(shù)順利交互。它可以通過鼓勵(lì)多樣性和保留每個(gè)專業(yè)中最優(yōu)秀的人才來創(chuàng)建高質(zhì)量和多樣化的解決方案??傊?,OpenELM 利用大型語言模型的潛力生成多樣化且高質(zhì)量的文本和代碼,標(biāo)志著進(jìn)化搜索領(lǐng)域的一個(gè)重要里程碑。