최신 개발 동향
오픈소스 LLMs: AI 협업의 새로운 시대
인공지능 커뮤니티는 주목할 만한 일련의 오픈소스 혁신을 경험하며, 대형 언어 모델 (LLMs)의 풍경을 변화시켰습니다.
하이라이트:
– Mistral AI의 7B LLM: Mistral AI가 70억 개의 파라미터를 가진 강력한 대형 언어 모델을 발표하여 중요한 이정표를 세웠습니다.
– Tsinghua 대학교의 UltraChat 데이터셋: 인공지능 대화 능력의 주요 발전 중 하나로, Tsinghua 대학교 NLP 연구실이 UltraChat 데이터셋을 소개했습니다. 이 대규모 멀티턴 대화 데이터셋은 인공지능 대화의 깊이와 복잡성을 향상시킬 것으로 기대됩니다.
– Hugging Face H4의 Zephyr 개선: Hugging Face H4 팀이 UltraChat 및 UltraFeedback 데이터셋을 활용하여 Zephyr 모델을 세밀하게 튜닝하였습니다. 그들의 작업은 Adjustment Notebook에 문서화되어 있으며, 인공지능 커뮤니티에 유용한 통찰과 지침을 제공합니다.
– Argilla의 Notus 7B: Argilla의 Zephyr SFT 모델의 포괄적인 분석과 세밀한 튜닝을 통해 Notus 7B를 출시하였습니다. 이 모델은 오픈소스 LLMs의 새로운 기준을 설정하며, 협력을 통한 AI 기술 발전의 힘을 보여줍니다.
프롬프트 캐싱이 LLM 속도를 향상시킵니다.
LLM에서의 프롬프트 캐싱은 AI 시스템에서 반복적인 프롬프트 처리를 혁신적으로 개선하며, 확장된 프롬프트에 대한 응답 시간을 크게 줄이고 있습니다. 이는 전통적인 방법이 LLM의 상호작용 속도를 늦추는 문제를 해결하는 데 기여합니다.
하이라이트:
– LLM에서의 빠른 피드백: 프롬프트 캐싱 구현으로 인해 첫 번째 토큰에 대한 피드백이 이전 LLM 기능과 비교하여 5-10배 빨라졌습니다.
– 반복 프롬프트에 대한 최적화: 이 발전은 연속적인 대화나 일관된 시스템 쿼리와 같은 상황에서 LLM이 반복되는 프롬프트를 만날 때 특히 유용합니다.
– 큰 프롬프트 크기에 대한 상당한 감소: 이전에는 최대 32k 또는 128k 토큰을 포함할 수 있는 긴 프롬프트가 피드백에 지연을 초래했습니다.
오픈AI 이후, Stability AI의 생존이 의문되고 있습니다.
– 금융 압력과 시장 경쟁이 증가하는 가운데 널리 사용되는 텍스트에서 이미지로 변환하는 모델 Stable Diffusion으로 유명한 Stability AI는 중대한 전환점에 있습니다.
하이라이트:
– 금융 위기와 리더십 갈등: 런던을 기반으로 한 인공지능 기업 Stability AI는 증가하는 투자자 압력과 금융적 도전에 직면하여 회사 매각을 고려 중인 것으로 보입니다. 창립자 이마드 모스타크에 대한 사퇴 요구가 거세지고, 그의 이름으로 된 회사 웹사이트가 404 오류를 표시하고 있습니다.
– 내부 압력과 투자자 긴장감: Coatue를 포함한 주요 투자자들은 모스타크의 리더십에 불만을 표명하며, 주요 임원들의 이탈과 이사회 간의 갈등을 겪고 있습니다.
– 치열한 시장 경쟁: Stability AI는 Meta, Google, Amazon과 같은 대형 기술 기업들이 자사의 이미지 생성 모델을 도입하면서 고객을 유치하는 데 어려움을 겪고 있습니다. 또한, ChatGPT Plus의 DALL.E-3로부터의 경쟁과 Midjourney의 중요한 사용자 기반도 상당한 경쟁 도전을 제기하고 있습니다.
전문가의 도구들
1. Magnific AI:
– 인공지능에 의해 주도되는 도구로, 해상도를 향상시키고 이미지를 증강하는 기능을 제공합니다. Magnific AI는 사용자 입력과 특정 매개변수에 따라 상상력 있는 능력과 상세한 재현력으로 두드러집니다.
2. Tabula:
– 데이터를 합성, 변환 및 표시하는 올인원 AI 플랫폼입니다. 150개 이상의 소스에 신속하게 연결되어 모든 데이터를 한 곳에 모을 수 있습니다.
3. Freepik Pikaso:
– 실시간으로 초안을 빠르게 스케치하여 어떤 이미지든 만들어내는 AI 도구입니다. 실시간 AI 이미지 형성으로 여러분의 스케치가 현실로 태어납니다.
4. Taskade:
– Taskade는 AI 에이전트를 사용하여 할 일 목록, 프로세스 차트, 프로젝트 스프린트 및 SOP와 같은 동적이고 대화형 작업 도구를 생성합니다. 다중 차원에서 작업을 시각화하는 능력이 강점으로, 리스트, 보드, 테이블, 캘린더 및 마인드 맵 등을 포함합니다.
핫 테이크
“Mistral 팀은 본질적으로 Llama를 포크하고 코드를 40줄 미만으로 변경한 후에 1억 2천만 달러 이상을 모았습니다.” ~출처
“인류 문명은 모든 것의 거대한 계획 속에서 여전히 작은 스타트업입니다.” ~Elon Musk