최신 개발 동향
오픈소스 LLMs: AI 협업의 새로운 시대
인공지능 커뮤니티는 오픈소스 혁신의 주목할 만한 연속을 목격하고 있으며, 이는 대형 언어 모델 (LLMs)의 풍경을 변화시키고 있습니다.
하이라이트:
– Mistral AI의 7B LLM: 중요한 이정표로, Mistral AI는 70억 개의 파라미터를 가진 강력한 대형 언어 모델을 발표했습니다.
– 청화 대학교의 UltraChat 데이터셋: 인공지능 대화 능력의 주요 발전으로, 청화 대학교 NLP 연구소가 UltraChat 데이터셋을 소개했습니다. 이 대규모 및 다중 턴 대화 데이터셋은 AI 대화의 깊이와 복잡성을 향상시킬 것으로 기대됩니다.
– Hugging Face H4의 Zephyr 개선: 새로 공개된 자원을 활용하여, Hugging Face H4 팀은 UltraChat 및 UltraFeedback 데이터셋을 사용하여 Zephyr 모델을 세밀하게 튜닝했습니다. 그들의 작업은 ‘조정 노트북’에 문서화되어 있으며, AI 커뮤니티에 중요한 통찰과 지침을 제공합니다.
– Argilla의 Notus 7B: 주목할 만한 성취로, Argilla의 Zephyr SFT 모델의 포괄적인 분석과 세밀한 튜닝을 통해 Notus 7B가 출시되었습니다. 이 모델은 오픈소스 LLMs의 새로운 기준을 세우며, AI 기술 발전에 있어 협력의 힘을 잘 보여줍니다.
프롬프트 캐싱이 LLM 속도를 개선
LLM에서의 프롬프트 캐싱은 인공지능 시스템에서 반복적인 프롬프트 처리를 혁신하며, 전통적인 방법이 LLM의 상호작용 속도를 늦추는 것에 비해 확장된 프롬프트의 응답 시간을 크게 줄이고 있습니다.
하이라이트:
– LLM의 빠른 피드백: 프롬프트 캐싱 구현으로 인해 첫 번째 토큰에 대한 피드백이 이전 LLM 기능과 비교해 5배에서 10배 정도 빨라지는 상당한 개선이 이루어졌습니다.
– 반복 프롬프트 최적화: 이 발전은 연속적인 대화나 일관된 시스템 쿼리와 같이 LLM이 반복적인 프롬프트를 만나는 상황에서 특히 유용합니다.
– 대규모 프롬프트 크기에 대한 상당한 감소: 최대 32,000개 또는 128,000개의 토큰을 포함할 수 있는 긴 프롬프트는 이전에 피드백 지연을 일으키기도 했습니다.
오픈AI 이후, Stability AI의 생존이 의문입니다.
– 금융 압력과 시장 경쟁이 증가하는 가운데, 널리 사용되는 텍스트에서 이미지로 변환하는 모델 Stable Diffusion으로 잘 알려진 Stability AI는 중대한 전환점에 직면해 있습니다.
하이라이트:
– 재정 위기와 리더십 갈등: 런던 기반의 AI 회사 Stability AI는 증가하는 투자자 압박과 재정적 도전에 따라 회사 매각을 고려하고 있다고 보도됩니다. 창립자 에마드 모스타크에게서 이름이 표시되지 않는 회사 웹사이트 오류 404가 발생하며 그의 사임 요구가 증가하고 있습니다.
– 내부 압력과 투자자 긴장: Coatue를 포함한 주요 투자자들은 모스타크의 리더십에 불만을 표명하며, 이는 최고 경영진의 이탈과 이사회 내 갈등을 촉발시켰습니다.
– 치열한 시장 경쟁: Stability AI는 Meta, Google, Amazon 등의 대기업들이 자체 이미지 생성 모델을 도입함에 따라 고객 유치에서 어려움을 겪고 있습니다. 또한, ChatGPT Plus의 DALL.E-3와 Midjourney의 상당한 사용자 기반으로 인한 경쟁 도전도 큽니다.
전문가들이 사용하는 도구들 
1 . Magnific AI:
人工知能により駆動され、解像度の向上や画像の拡張機能を提供するツールです。ユーザーの入力と特定のパラメーターによって導かれる「想像力」の能力と詳細な再現力が特徴です。
2 . Tabula:
データを合成、変換、表示するオールインワンの人工知能プラットフォームです。150以上のソースにシームレスに接続し、すべてのデータを一つの場所に統合します。
3 . Freepik Pikaso:
リアルタイムで草案を素早くスケッチし、想像できるあらゆる画像を作成するための人工知能ツールです。リアルタイムのAI画像形成により、スケッチが実像化されます。
4 . Taskade:
TaskadeはAIエージェントを使用して、ToDoリスト、プロセスチャート、プロジェクトスプリント、SOPなどのダイナミックでインタラクティブな作業ツールを作成します。リスト、ボード、テーブル、カレンダー、マインドマップなど、複数の次元でタスクを視覚化する能力があります。
翻訳 
“Mistralチームは基本的にLlamaをフォークし、コードを40行未満変更し、1億2千万ドル以上を調達しました。.” ~Source
“인류 문명은 모든 것의 거대한 계획에서 여전히 작은 스타트업일 뿐입니다.” ~Elon Musk