Ryght：專為醫(yī)療保健和生命科學(xué)領(lǐng)域打造的生成式人工智能平臺(tái)

本文是 Ryght 團(tuán)隊(duì)的客座博文。

Ryght 是何方神圣？

Ryght 的使命是構(gòu)建一個(gè)專為醫(yī)療保健和生命科學(xué)領(lǐng)域量身定制的企業(yè)級生成式人工智能平臺(tái)。最近，公司正式公開了 Ryght 預(yù)覽版 平臺(tái)。

當(dāng)前，生命科學(xué)公司不斷地從各種不同來源 (實(shí)驗(yàn)室數(shù)據(jù)、電子病歷、基因組學(xué)、保險(xiǎn)索賠、藥學(xué)、臨床等) 收集大量數(shù)據(jù)，并期望從中獲取洞見。但他們分析這些數(shù)據(jù)的方法已經(jīng)跟不上數(shù)據(jù)本身，目前典型的工作模式往往需要一個(gè)大型團(tuán)隊(duì)來完成從簡單查詢到開發(fā)有用的機(jī)器學(xué)習(xí)模型的所有工作。這一模式已無法滿足藥物開發(fā)、臨床試驗(yàn)以及商業(yè)活動(dòng)對可操作知識(shí)的巨大需求，更別談精準(zhǔn)醫(yī)學(xué)的興起所帶來的更大的需求了。

Ryght 的目標(biāo)是讓生命科學(xué)專業(yè)人士能夠快速、安全地從數(shù)據(jù)中挖掘出他們所需的洞見。為此，其正在構(gòu)建一個(gè) SaaS 平臺(tái)，為本專業(yè)的人員和組織提供定制的 AI copilot 解決方案，以助力他們對各種復(fù)雜數(shù)據(jù)源進(jìn)行記錄、分析及研究。

Ryght 認(rèn)識(shí)到 AI 領(lǐng)域節(jié)奏快速且多變的特點(diǎn)，因此一開始就加入 Hugging Face 專家支持計(jì)劃 ，將 Hugging Face 作為技術(shù)咨詢合作伙伴。

共同克服挑戰(zhàn)

我們與 Hugging Face 專家支持計(jì)劃的合作對加快我們生成式人工智能平臺(tái)的開發(fā)起到了至關(guān)重要的作用�？焖侔l(fā)展的人工智能領(lǐng)域有可能徹底改變我們的行業(yè)，而 Hugging Face 的高性能、企業(yè)級的文本生成推理 (TGI) 和文本嵌入推理 (TEI) 服務(wù)本身就是游戲規(guī)則的改寫者。 - Johnny Crupi ， Ryght 首席技術(shù)官

在著手構(gòu)建生成式人工智能平臺(tái)的過程中，Ryght 面臨著多重挑戰(zhàn)。

1. 快速提升團(tuán)隊(duì)技能并在多變的環(huán)境中隨時(shí)了解最新情況

隨著人工智能和機(jī)器學(xué)習(xí)技術(shù)的快速發(fā)展，確保團(tuán)隊(duì)及時(shí)了解最新的技術(shù)、工具以及最佳實(shí)踐至關(guān)重要。這一領(lǐng)域的學(xué)習(xí)曲線呈現(xiàn)出持續(xù)陡峭的特點(diǎn)，因此需要齊心協(xié)力才能及時(shí)跟上。

與 Hugging Face 的人工智能生態(tài)系統(tǒng)核心專家團(tuán)隊(duì)的合作，有助于 Ryght 跟上本垂直領(lǐng)域的最新發(fā)展以及最新模型。通過開放異步的溝通渠道、定期的咨詢會(huì)以及專題技術(shù)研討會(huì)等多種形式，充分地保證了目的的實(shí)現(xiàn)。

2. 在眾多方案中找到最 [經(jīng)濟(jì)] 的機(jī)器學(xué)習(xí)方案

人工智能領(lǐng)域充滿了創(chuàng)新，催生了大量的工具、庫、模型及方法。對于像 Ryght 這樣的初創(chuàng)公司來說，必須消除這種噪聲并確定哪些機(jī)器學(xué)習(xí)策略最適合生命科學(xué)這一獨(dú)特場景。這不僅需要了解當(dāng)前的技術(shù)水平，還需要對技術(shù)在未來的相關(guān)性和可擴(kuò)展性有深刻的洞見。

Hugging Face 作為 Ryght 技術(shù)團(tuán)隊(duì)的合作伙伴，在解決方案設(shè)計(jì)、概念驗(yàn)證開發(fā)和生產(chǎn)工作負(fù)載優(yōu)化全過程中提供了有力的協(xié)助，包括: 針對應(yīng)用場景推薦最適合 Ryght 需求的庫、框架和模型，并提供了如何使用這些軟件和模型的示例。這些指導(dǎo)最終簡化了決策過程并縮短了開發(fā)時(shí)間。

3. 開發(fā)專注于安全性、隱私性及靈活性的高性能解決方案

鑒于其目標(biāo)是企業(yè)級的解決方案，因此 Ryght 把安全、隱私和可治理性放在最重要的位置。因此在設(shè)計(jì)方案架構(gòu)時(shí)，需要提供支持各種大語言模型 (LLM) 的靈活性，這是生命科學(xué)領(lǐng)域內(nèi)容生成和查詢處理系統(tǒng)的關(guān)鍵訴求。

基于對開源社區(qū)的快速創(chuàng)新，特別是醫(yī)學(xué) LLM 創(chuàng)新的理解，其最終采用了“即插即用”的 LLM 架構(gòu)。這種設(shè)計(jì)使其能夠在新 LLM 出現(xiàn)時(shí)能無縫地評估并集成它們。

在 Ryght 的平臺(tái)中，每個(gè) LLM 均可注冊并鏈接至一個(gè)或多個(gè)特定于客戶的推理端點(diǎn)。這種設(shè)計(jì)不僅可以保護(hù)各客戶的連接，還提供了在不同 LLM 之間切換的能力，提供了很好的靈活性。Ryght 通過采用 Hugging Face 的 文本生成推理 (TGI) 和 推理端點(diǎn) 實(shí)現(xiàn)了該設(shè)計(jì)。

除了 TGI 之外，Ryght 還將 文本嵌入推理 (TEI) 集成到其 ML 平臺(tái)中。使用 TEI 和開源嵌入模型提供服務(wù)，與僅依賴私有嵌入服務(wù)相比，可以使 Ryght 能夠享受更快的推理速度、免去對速率限制的擔(dān)憂，并得到可以為自己的微調(diào)模型提供服務(wù)的靈活性，而微調(diào)模型可以更好地滿足生命科學(xué)領(lǐng)域的獨(dú)特要求。

為了同時(shí)滿足多個(gè)客戶的需求，系統(tǒng)需要能處理大量并發(fā)請求，同時(shí)保持低延遲。因此，Ryght 的嵌入和推理服務(wù)不僅僅是簡單的模型調(diào)用，還需要支持包括組批、排隊(duì)和跨 GPU 分布式模型處理等高級特性。這些特性對于避免性能瓶頸并確保用戶不會(huì)遇到延遲，從而保持最佳的系統(tǒng)響應(yīng)時(shí)間至關(guān)重要。

總結(jié)

Ryght 與 Hugging Face 在 ML 服務(wù)上的戰(zhàn)略合作伙伴關(guān)系以及深度集成凸顯了其致力于在醫(yī)療保健和生命科學(xué)領(lǐng)域提供尖端解決方案的承諾。通過采用靈活、安全和可擴(kuò)展的架構(gòu)，其確保自己的平臺(tái)始終處于創(chuàng)新前沿，為客戶提供無與倫比的服務(wù)和專業(yè)知識(shí)，以應(yīng)對現(xiàn)代醫(yī)療領(lǐng)域的復(fù)雜性。

Ryght 預(yù)覽版 現(xiàn)已作為一個(gè)可輕松上手的、免費(fèi)、安全的平臺(tái)向生命科學(xué)知識(shí)工作者公開，歡迎大家使用。Ryght 的 copilot 庫包含各種工具，可加速信息檢索、復(fù)雜非結(jié)構(gòu)化數(shù)據(jù)的綜合及結(jié)構(gòu)化，以及文檔構(gòu)建等任務(wù)，把之前需要數(shù)周才能完成的工作縮短至數(shù)天或數(shù)小時(shí)。如你對定制方案及合作方案有興趣，請聯(lián)系其 AI 專家團(tuán)隊(duì) ，以討論企業(yè)級 Ryght 服務(wù)。

如果你有興趣了解有關(guān) Hugging Face 專家支持計(jì)劃的更多信息，請 通過此處 聯(lián)系我們，我們將聯(lián)系你討論你的需求！

英文原文: https://huggingface.co/blog/ryght-case-study
原文作者: Andrew Reed，Johnny Crupi
譯者: Matrix Yao (姚偉峰)，英特爾深度學(xué)習(xí)工程師，工作方向?yàn)?transformer-family 模型在各模態(tài)數(shù)據(jù)上的應(yīng)用及大規(guī)模模型的訓(xùn)練推理。

• 異色邊緣龍局北辰卡組詳解
• 《怪化貓》系列第二章《火鼠》近日公開諸多新情報(bào)
• steam特賣頁面出現(xiàn)神秘粉發(fā)女孩 引發(fā)網(wǎng)友熱烈討論
• 大雪節(jié)氣活動(dòng)：桃源深處有人家雪盛冬藏
• 游俠晚報(bào)：《絕地潛兵2》口碑上升 Fami通一周評分