2. Development/한국어 오픈도메인 챗봇 (5) 썸네일형 리스트형 [한국어 오픈도메인 챗봇] 4. Chat GPT 간단 체험 작성일 : 23.01.30 출발하기 앞서 제 전역이 임박했습니다. 사지방도 여건이 쉽지 않아서, 개발 공부는 커녕 영어공부 할 시간도 없었습니다. 군대는 뺑뺑이다가 옛말이 아님을 몸소 확인하고, 마지막 휴가를 나와서 기술동향을 대충 훑어보고 있는데, 이게 뭔가.. Chat GPT라는 괴물이 세상에 풀려있었습니다. 이제 껏 군대에서 꼬깃꼬깃 종이에 적어내렸던 조잡한 아키택처들이 너무 보잘것 없어지는 순간이었습니다. 방금 한번 데모페이지에서 테스트 해본 걸로도 어이가 없었습니다. 여러가지 시도를 해가며 40분정도 체험해 본 결과를 정리해봤습니다. 체험내용 멀티턴에도 굉장히 높은 기억력과 이해력을 보였으며, 유기적인 맥락 조합능력이 매우 좋았습니다. 하지만, 아무래도 한국어에대한 적응력이 부족했으며, Chat.. [한국어 오픈도메인 챗봇] 3. 카카오톡로그 기반 1:n 발화모델 개발 서론 이번 포스팅의 주제는 목표에 다가간다는 느낌보다는 재미에 가깝게 구성되었다. 재밌고 의미 있는 결과를 얻는 것이 목표임으로 자주 나오는 대화 주제를 이용하여 결과를 관찰했다. 본론 이전 포스팅에서 언급했듯이 학습에 필요한 데이터를 전처리 할때 사진, 동영상, 삭제된 게시글 등.. 을 토큰화 시켜서 입력해봤다. 실제로 생성된 결과에서도 토큰이 있는걸 볼 수 있다. 실제로 아마 "응 죽어도 못해~~" 썼다 지웠거나 뭐 그런 느낌쓰 일 거다. 실제로 이운호 군은 "지금은 친구들이랑 노는 게 더 좋아..." 같은 느낌이었는데 실제로 그렇게 나왔다. 운호 재밌겠다...(?) 왜 나왔는지 모르겠다. 아직 학습이 부족한 모습이 보인다. 문제 피드백 "왜 지금 안 된다" 아마도 "왜" 쓰고 조금 뒤에 "지금은 안.. [한국어 오픈도메인 챗봇] 2. 카카오톡로그 데이터셋 활용과 가공 서론 오픈 도메인 챗봇 개발이라는 목표를 달성하기 위해 많은 용량의 대화 데이터를 확보해야 하지만, 한국어로 된 오픈 도메인 챗봇을 상당히 얻기 어려울 뿐더러, 핵심을 언급하지 않는 적당한 대답을 매핑하여 출력되도록 하지도 않을 것이다. (그렇게 하기도 힘들다) 본론 그래서 카카오톡 로그를 좀 이용해보면 어떨까 생각했다. 마침 최근에 카카오톡 로그 분석같은 것도 했어서 더 괜찮을 것 이라고 생각이 들었다. 데이터 수집과 가공에 대한 이야기를 쓰려 했지만 왜 이런 데이터를 수집해봤냐를 기록하기 위해서 생각해봤던 아이디어도 같이 적어보려고 한다. 우선 이전에 리뷰했던 아래 논문에 의하면 [논문 리뷰] Hello, It’s GPT-2 - How Can I Help You? Towards the Use of P.. [한국어 오픈도메인 챗봇] 1. 기초 지식 공부 해당 포스팅에서는 가볍게 챗봇을 만들기 위한 기초 지식 공부와 간단한 채팅 모델에 API서버를 연동한 웹사이트를 보이려고 한다. 조금더 진척이 되고 올리려고 했으나, 입대까지 얼마 남지 않아 급한마음에 그냥 올리게 되었다. 챗봇 개발을 위한 기본 지식 공부 1. Transformer의 기반이 되는 Attention seq2seq + attention을 논문과 함께 간단하게 구현해 봤다. attention의 개념 정도는 확실히 잡고 가는 게 맞다고 생각했다. [Pytorch] 차근차근 구현하는 seq2seq + attention mechanism 날렵한 곰의 차근차근 구현하는 시리즈 입니다. * 구현 연습을 하는 단계에서 쓴 글입니다. 대충 무슨내용인지는 아는데 구현은 직접하고 싶고 할라니까 아리까리하고 .. [한국어 오픈도메인 챗봇] 0. 사람같은 챗봇 만들기 + 2022.06.04 추가함 2016년 친구를 대신하여 대화상대가 되어 줄 수 있는 대화 봇을 만들 수 없을까 생각하며, 데이터베이스, 음성 생성 엔진 기반 대화봇을 만들었었다. 2019년 진짜 사람처럼 SNS를 관리하고 이용하는 인공지능을 만들어 보고자 생각했었다. 실제로 페이스북 같은 인스타그램 계정을 운영하면서 캐릭터 컨셉에 맞는 게시물을 올리고 채팅을 칠 수 있다면 분명 재밌을 것 이라고 생각했다. 2020년 AI분야로는 많이 부족한 나에겐 일단 AI를 SNS에 올릴 수 있는 플랫폼 코드를 구현하며 SNS관련 API를 숙달했다. 2021년 20년도 초 부터 운영해 오던 인공지능 동아리에서 조금이나마 AI에 대한 지식을 쌓았고, 무작정 챗봇 개발에 돌입했다. 그렇게 공부도중 9월 대한민국 육군 특.. 이전 1 다음
