전체 글
-
직접 환경 설정 최적화(Direct Preference Optimization): 언어 모델은 은밀하게 보상 모델카테고리 없음 2023. 11. 23. 23:44
직접 환경 설정 최적화(Direct Preference Optimization): 언어 모델은 은밀하게 보상 모델(Your Language Model is Secretly a Reward Model) 대규모 비지도 언어 모델(LM)은 광범위한 세계 지식과 일부 추론 기술을 학습하지만, 학습이 완전히 비지도적이기 때문에 행동을 정밀하게 제어하기는 어렵습니다. 이러한 조향성을 확보하기 위한 기존의 방법은 모델 생성의 상대적 품질에 대한 인간의 라벨을 수집하고 이러한 선호도에 맞게 비지도 LM을 미세 조정하며, 종종 인간의 피드백을 통한 강화 학습(RLHF)을 사용합니다. 그러나 RLHF는 복잡하고 종종 불안정한 절차로, 먼저 인간의 선호도를 반영하는 보상 모델을 맞추고 강화 학습을 사용하여 큰 비지도 LM을..
-
Orca 2: 작은 언어 모델(Small Language Model)에 추론하는 방법 가르치기인공지능 2023. 11. 23. 23:25
몇 달 전에는 더 유D능한 LLM의 단계별 추론 추적을 모방하여 강력한 추론 능력을 입증한 130억 개의 매개변수 언어 모델인 Orca를 소개했습니다. Orca 2는 100억 개 이하의 파라미터를 가진 더 작은 LM의 기능을 탐색하기 위한 노력의 최신 단계입니다. Orca 2를 통해 개선된 훈련 신호와 방법을 통해 훨씬 더 큰 규모의 언어 모델에서만 볼 수 있는 향상된 추론 능력을 소규모 언어 모델에서도 구현할 수 있음을 계속해서 보여주고 있습니다. Orca 2는 제로 샷 환경에서 고급 추론 능력을 테스트하는 복잡한 작업에서 평가한 결과, 비슷한 크기의 모델(오리지널 Orca 모델 포함)을 크게 능가하며 5-10배 더 큰 모델과 비슷하거나 더 나은 성능 수준을 달성했습니다. Orca 2는 두 가지 크기(..
-
스테이블 비디오 디퓨젼(Stable Video Diffusion) 출시카테고리 없음 2023. 11. 23. 23:08
2023년 11월 21일, 이미지 모델인 스테이블 디퓨전을 기반으로 하는 생성형 비디오의 첫 번째 기반 모델인 스테이블 비디오 디퓨전을 출시합니다. 현재 연구용 프리뷰 버전으로 제공되는 이 최첨단 제너레이티브 AI 비디오 모델은 모든 유형의 사용자를 위한 모델을 만들기 위한 여정에서 중요한 한 걸음을 내딛는 것입니다. 이번 연구용 릴리스를 통해 안정적인 비디오 확산을 위한 코드를 GitHub 저장소에서 사용할 수 있으며, 로컬에서 모델을 실행하는 데 필요한 가중치는 Hugging Face 페이지에서 확인할 수 있습니다. 모델의 기술적 기능에 대한 자세한 내용은 연구 논문에서 확인할 수 있습니다. 다양한 비디오 애플리케이션에 적용 가능 유니티의 비디오 모델은 멀티뷰 데이터 세트에 대한 미세 조정을 통해 단..
-
한국은행 AI와 노동시장 변화 고임금·고학력 근로자가 AI 기술에 더 많이 노출인공지능 2023. 11. 23. 00:23
BOK 이슈노트 제2023-30호 AI와 노동시장 변화AI(Artificial Intelligence)는 지난 10년 간 빠른 발전을 거듭하면서 다양한 분야에서 활용되고 있으며 앞으로도 그 활용도가 더욱 높아질 전망이다. AI는 생산성 향상, 새로운 일자리 창출 등 경제 전반에 긍정적인 영향을 줄 수 있는 반면, 기존 일자리를 대체할 것이라는 우려도 내포하고 있다. 이런 점에서 본고는 어떤 일자리가 AI에 의해 대체될 가능성이 높은지, AI로 인한 노동시장 영향과 관련 시사점은 무엇인지 살펴보았다.AI 특허 정보를 활용하여 직업별 AI 노출 지수를 산출한 결과, 우리나라 취업자 중 약 341만명(전체 취업자수 대비 12%)은 AI 기술에 의한 대체 가능성이 높은 것으로 나타났다. 기존 기술(산업용 로봇 ..
-
딥마인드, 인공지능의 레벨 인공일반지능(AGI)를 달성하기 위한 기간카테고리 없음 2023. 11. 22. 14:46
대부분의 작업에서 최소한 인간과 동등한 수준의 능력을 갖춘 AI 시스템인 인공 일반 지능(AGI)을 달성하기 위한 길은 과학자들 사이에서 여전히 논쟁의 대상이 되고 있습니다. AGI는 아직 멀었다는 의견부터 10년 이내에 등장할 가능성이 있다는 의견, 현재의 대규모 언어 모델(LLM)에서 이미 'AGI의 불꽃(sparks of AGI)'을 볼 수 있다는 의견까지 다양합니다. 심지어 일부 연구자들은 오늘날의 LLM이 AGI라고 주장하기도 합니다. 이 논의를 명확히 하기 위해 수석 AGI 과학자 셰인 레그를 비롯한 Google 딥마인드의 과학자 팀은 AGI 시스템과 그 선구자의 기능과 행동을 분류하기 위한 새로운 프레임워크를 제안했습니다. 저자들은 논문에서 "AI 연구 커뮤니티가 'AGI'가 의미하는 바를 ..
-
앤스로픽, 200만 토큰과 절반 환각을 제공하는 AI Claude 2.1 발표인공지능 2023. 11. 22. 12:20
최신 모델인 Claude 2.1은 이제 콘솔의 API를 통해 사용할 수 있으며, claude.ai 채팅 경험을 강화합니다. Claude 2.1은 업계 최고 수준의 200만 토큰 컨텍스트 창, 모델 환각률의 대폭 감소, 시스템 프롬프트, 새로운 베타 기능인 도구 사용 등 기업을 위한 주요 기능의 발전을 제공합니다. 또한 모든 모델에 걸쳐 고객의 비용 효율성을 개선하기 위해 가격을 업데이트하고 있습니다.200만 컨텍스트 윈도우2023년 초 출시 이후 수백만 명의 사용자가 학술 논문 번역부터 사업 계획서 초안 작성, 복잡한 계약서 분석에 이르기까지 다양한 용도로 Claude를 사용해 왔습니다. 사용자들과의 논의 과정에서 긴 문서 작업 시 더 큰 컨텍스트 창과 더 정확한 결과물이 필요하다는 요청이 있었습니다.이..
-
외로움이 사망 위험을 높인다카테고리 없음 2023. 11. 21. 09:52
은둔형 외톨이의 정의와 증상 은둔형 외톨이는 특정 이유로 바깥출입을 하지 않고 심한 경우 가족과도 접촉을 꺼리는 일이 6개월 이상 지속되는 상태를 말합니다. 은둔형 외톨이의 증상으로는 다음과 같은 것들이 있습니다. 외출을 기피하거나 회피합니다. 친구나 친척과의 만남을 피합니다. 가족과의 대화도 피하거나 짧게 끝냅니다. 집에만 머물러 TV, 인터넷, 게임 등을 하면서 시간을 보냅니다. 우울, 불안, 무기력 등의 감정을 느낍니다. 은둔형 외톨이의 원인 은둔형 외톨이의 원인은 다양합니다. 크게는 개인적 요인과 환경적 요인으로 나눌 수 있습니다. 개인적 요인 성격적 특성: 내향적인 성격, 수줍음, 소심함 학업이나 직업 스트레스 대인관계의 실패나 상처 정신질환(우울증, 불안장애, 조현병 등) 환경적 요인 핵가족화..
-
META, Emu Video와 Emu Edit AI 연구 성과 공개인공지능 2023. 11. 20. 22:59
생성형 AI 분야는 빠르게 진화하고 있으며, 인간의 창의성과 자기표현을 강화할 수 있는 놀라운 잠재력을 보여주고 있습니다. 2022년에는 이미지 생성에서 동영상 생성으로 단 몇 달 만에 도약했습니다. 그리고 올해 메타 커넥트에서는 이미지 생성을 위한 첫 번째 기반 모델인 에뮤를 포함한 몇 가지 새로운 개발 사항을 발표했습니다. 에뮤의 기술은 사진을 찍고 시각적 스타일이나 배경을 변경할 수 있는 인스타그램용 AI 이미지 편집 도구, 그리고 해당 어시스턴트와의 메시지나 여러 앱의 그룹 채팅에서 사실적인 이미지를 직접 생성할 수 있는 메타 AI의 이매진 기능 등 다양한 생성 AI 경험의 기반이 되고 있습니다. 이 흥미로운 분야에 대한 저희의 연구는 계속 진행 중이며, 오늘 텍스트 지침만으로 제어되는 이미지 편..