국내도서

>

전공도서/대학교재

>

공학계열

>

컴퓨터공학

• 
• 제휴몰 주문 시 고객보상, 일부 이벤트 참여 및 증정품 증정, 하루/당일 배송에서 제외되므로 참고 바랍니다.

• 
• 도서  > 전공도서/대학교재  > 공학계열  > 컴퓨터공학

• 
• 
• 챗GPT처럼 자연어를 찰떡같이 알아듣는 트랜스포머 완벽 해부 트랜스포머는 우리 주변에 가득하다! 트랜스포머 아키텍처는 순식간에 자연어 처리 분야를 지배했고, 챗GPT가 전 세계를 강타했다. 이 책은 데이터 과학자나 프로그래머가 트랜스포머 모델을 훈련하고 확장하도록 허깅페이스(？？)의 트랜스포머스 라이브러리를 활용하는 실용적인 방법을 안내한다. 트랜스포머스 라이브러리를 개발한 엔지니어들이 직접 코드를 설명하며 트랜스포머의 작동 원리와 문제 해결법, 애플리케이션 도입법까지 차근차근 소개한다. 나만의 트랜스포머를 훈련시키는 방법을 배우고 자연어 처리를 정복해보자
• 
• 자연어 처리 애플리케이션을 만드는 큐브, 트랜스포머 이 책은 머신러닝 지식을 갖춘 엔지니어와 연구자를 대상으로 직접 모델을 구현하며 트랜스포머를 업무에 적용하는 실용적인 방법을 전달한다. 트랜스포머를 이용하는 데 필요한 기본적인 이론과 방법을 소개한 뒤, 다국어 텍스트의 개체명 인식(NER)을 비롯해 텍스트 생성, 텍스트 요약, 질문 답변(QA) 같은 목적에 맞는 다양한 자연어 처리 모델을 훈련해본다. 다양한 트랜스포머 모델에 표준화된 인터페이스를 제공하는 라이브러리인 허깅페이스(？？) 트랜스포머스를 개발한 팀의 안내를 따라 내게 필요한 모델을 구축해보자. 대상 독자 ● 트랜스포머를 입맛에 맞게 조정하고 싶은 데이터 과학자와 머신러닝 엔지니어 ● 자기만의 자연어 처리 애플리케이션을 만들고 싶은 개발자 주요 내용 ● 텍스트 분류, 개체명 인식 등 NLP 작업을 위한 트랜스포머 모델을 빌드 및 디버깅, 최적화하는 방법 ● 언어 간 전이 학습에 트랜스포머를 사용하는 방법 ● 레이블링된 데이터가 부족한 상황에서 트랜스포머를 적용해 모델 성능을 높이는 방법 ● 지식 정제와 양자화, 가지치기 같은 기술을 사용한 트랜스포머 모델 효율화 방법 ● 대규모 트랜스포머 모델을 밑바닥부터 훈련하고 여러 GPU 및 분산 환경으로 확장하는 방법
• 
• CHAPTER 1 트랜스포머 소개 _1.1 인코더-디코더 프레임워크 _1.2 어텐션 메커니즘 _1.3 NLP의 전이 학습 _1.4 허깅페이스 트랜스포머스 _1.5 트랜스포머 애플리케이션 둘러보기 __1.5.1 텍스트 분류 __1.5.2 개체명 인식 __1.5.3 질문 답변 __1.5.4 요약 __1.5.5 번역 __1.5.6 텍스트 생성 _1.6 허깅페이스 생태계 __1.6.1 허깅페이스 허브 __1.6.2 허깅페이스 토크나이저 __1.6.3 허깅페이스 데이터셋 __1.6.4 허깅페이스 액셀러레이트 _1.7 트랜스포머의 주요 도전 과제 _1.8 결론 CHAPTER 2 텍스트 분류 _2.1 데이터셋 __2.1.1 허깅페이스 데이터셋 처음 사용하기 __2.1.2 데이터셋에서 데이터프레임으로 __2.1.3 클래스 분포 살펴보기 __2.1.4 트윗 길이 확인 _2.2 텍스트에서 토큰으로 __2.2.1 문자 토큰화 __2.2.2 단어 토큰화 __2.2.3 부분단어 토큰화 __2.2.4 전체 데이터셋 토큰화하기 _2.3 텍스트 분류 모델 훈련하기 __2.3.1 트랜스포머를 특성 추출기로 사용하기 __2.3.2 트랜스포머 미세 튜닝하기 _2.4 결론 CHAPTER 3 트랜스포머 파헤치기 _3.1 트랜스포머 아키텍처 _3.2 인코더 __3.2.1 셀프 어텐션 __3.2.2 피드 포워드 층 __3.2.3 층 정규화 추가하기 __3....2.4 위치 임베딩 __3.2.5 분류 헤드 추가하기 _3.3 디코더 _3.4 트랜스포머 유니버스 __3.4.1 트랜스포머 가계도 __3.4.2 인코더 유형 __3.4.3 디코더 유형 __3.4.4 인코더-디코더 유형 _3.5 결론 CHAPTER 4 다중 언어 개체명 인식 _4.1 데이터셋 _4.2 다중 언어 트랜스포머 _4.3 XLM-R 토큰화 __4.3.1 토큰화 파이프라인 __4.3.2 SentencePiece 토크나이저 _4.4 개체명 인식을 위한 트랜스포머 _4.5 트랜스포머 모델 클래스 __4.5.1 바디와 헤드 __4.5.2 토큰 분류를 위한 사용자 정의 모델 만들기 __4.5.3 사용자 정의 모델 로드하기 _4.6 NER 작업을 위해 텍스트 토큰화하기 _4.7 성능 측정 _4.8 XLM-RoBERTa 미세 튜닝하기 _4.9 오류 분석 _4.10 교차 언어 전이 __4.10.1 제로 샷 전이가 유용할 때 __4.10.2 다국어에서 동시에 미세 튜닝하기 _4.11 모델 위젯 사용하기 _4.12 결론 CHAPTER 5 텍스트 생성 _5.1 일관성 있는 텍스트 생성의 어려움 _5.2 그리디 서치 디코딩 _5.3 빔 서치 디코딩 _5.4 샘플링 방법 _5.5 탑-k 및 뉴클리어스 샘플링 _5.6 어떤 디코딩 방법이 최선일까요? _5.7 결론 CHAPTER 6 요약 _6.1 CNN/DailyMail 데이터셋 _6.2 텍스트 요약 파이프라인 __6.2.1 요약 기준 모델 __6.2.2 GPT-2 __6.2.3 T5 __6.2.4 BART __6.2.5 PEGASUS _6.3 요약 결과 비교하기 _6.4 생성된 텍스트 품질 평가하기 __6.4.1 BLEU __6.4.2 ROUGE _6.5 CNN/DailyMail 데이터셋에서 PEGASUS 평가하기 _6.6 요약 모델 훈련하기 __6.6.1 SAMSum에서 PEGASUS 평가하기 __6.6.2 PEGASUS 미세 튜닝하기 __6.6.3 대화 요약 생성하기 _6.7 결론 CHAPTER 7 질문 답변 _7.1 리뷰 기반 QA 시스템 구축하기 __7.1.1 데이터셋 __7.1.2 텍스트에서 답 추출하기 __7.1.3 헤이스택을 사용해 QA 파이프라인 구축하기 _7.2 QA 파이프라인 개선하기 __7.2.1 리트리버 평가하기 __7.2.2 리더 평가하기 __7.2.3 도메인 적응 __7.2.4 전체 QA 파이프라인 평가하기 _7.3 추출적 QA를 넘어서 _7.4 결론 CHAPTER 8 효율적인 트랜스포머 구축 _8.1 의도 탐지 예제 _8.2 벤치마크 클래스 만들기 _8.3 지식 정제로 모델 크기 줄이기 __8.3.1 미세 튜닝에서의 지식 정제 __8.3.2 사전 훈련에서의 지식 정제 __8.3.3 지식 정제 트레이너 만들기 __8.3.4 좋은 스튜던트 선택하기 __8.3.5 옵투나로 좋은 하이퍼파라미터 찾기 __8.3.6 정제 모델 벤치마크 수행하기 _8.4 양자화로 모델 속도 높이기 _8.5 양자화된 모델의 벤치마크 수행하기 _8.6 ONNX와 ONNX 런타임으로 추론 최적화하기 _8.7 가중치 가지치기로 희소한 모델 만들기 __8.7.1 심층 신경망의 희소성 __8.7.2 가중치 가지치기 방법 _8.8 결론 CHAPTER 9 레이블 부족 문제 다루기 _9.1 깃허브 이슈 태거 만들기 __9.1.1 데이터 다운로드하기 __9.1.2 데이터 준비하기 __9.1.3 훈련 세트 만들기 __9.1.4 훈련 슬라이스 만들기 _9.2 나이브 베이즈 모델 만들기 _9.3 레이블링된 데이터가 없는 경우 _9.4 레이블링된 데이터가 적은 경우 __9.4.1 데이터 증식 __9.4.2 임베딩을 룩업 테이블로 사용하기 __9.4.3 기본 트랜스포머 미세 튜닝하기 __9.4.4 프롬프트를 사용한 인-컨텍스트 학습과 퓨-샷 학습 _9.5 레이블링되지 않은 데이터 활용하기 __9.5.1 언어 모델 미세 튜닝하기 __9.5.2 분류기 미세 튜닝하기 __9.5.3 고급 방법 _9.6 결론 CHAPTER 10 대규모 데이터셋 수집하기 _10.1 대규모 데이터셋 수집하기 __10.1.1 대규모 말뭉치 구축의 어려움 __10.1.2 사용자 정의 코드 데이터셋 만들기 __10.1.3 대용량 데이터셋 다루기 __10.1.4 허깅페이스 허브에 데이터셋 추가하기 _10.2 토크나이저 구축하기 __10.2.1 토크나이저 모델 __10.2.2 토크나이저 성능 측정하기 __10.2.3 파이썬 코드를 위한 토크나이저 __10.2.4 토크나이저 훈련하기 __10.2.5 허브에 사용자 정의 토크나이저 저장하기 _10.3 밑바닥부터 모델을 훈련하기 __10.3.1 사전 훈련 목표 __10.3.2 모델 초기화 __10.3.3 데이터로더 구축하기 __10.3.4 훈련 루프 정의하기 __10.3.5 훈련 실행 _10.4 결과 및 분석 _10.5 결론 CHAPTER 11 향후 방향 _11.1 트랜스포머 확장 __11.1.1 규모의 법칙 __11.1.2 규모 확장의 어려움 __11.1.3 어텐션 플리즈! __11.1.4 희소 어텐션 __11.1.5 선형 어텐션 _11.2 텍스트를 넘어서 __11.2.1 비전 __11.2.2 테이블 _11.3 멀티모달 트랜스포머 __11.3.1 스피치-투-텍스트 __11.3.2 비전과 텍스트 _11.4 다음 목적지는?
• 
• 

• 루이스 턴스톨 [저]

• 허깅페이스의 머신러닝 엔지니어다. 스타트업과 기업을 위해 NLP, 위상 기반 데이터 분석(topological data analysis), 시계열 분야의 머신러닝 애플리케이션을 만들었다. 이론 물리학으로 박사 학위를 받고 호주, 미국, 스위스에서 연구를 수행했다. 현재는 NLP 커뮤니티를 위한 도구를 개발하며 이를 효율적으로 사용하는 방법을 가르치는 일에 열중한다.

• 박해선 [저]

• 기계공학을 전공했지만 졸업 후엔 줄곧 코드를 읽고 쓰는 일을 했습니다. 텐서플로 블로그(tensorflow.blog)를 운영하고 있고, 머신러닝과 딥러닝에 관한 책을 집필하고 번역하면서 소프트웨어와 과학의 경계를 흥미롭게 탐험하고 있습니다. 『혼자 공부하는 머신러닝+딥러닝』(한빛미디어, 2020), 『Do it! 딥러닝 입문』(이지스퍼블리싱, 2019)을 집필했습니다. 『머신러닝 파워드 애플리케이션』(한빛미디어, 2021), 『머신러닝 교과서 with 파이썬, 사이킷런, 텐서플로(개정 3판)』(길벗, 2021), 『파이토치로 배우는 자연어 처리』(한빛미디어, 2021), 『딥러닝 일러스트레이티드』(시그마프레스, 2021), 『GAN 인 액션』 (한빛미디어, 2020), 『핸즈온 머신러닝(2판)』(한빛미디어, 2020), 『미술관에 GAN 딥러닝』 (한빛미디어, 2019), 『파이썬을 활용한 머신러닝 쿡북』(한빛미디어, 2019), 『머신 러닝 교과서 with 파이썬, 사이킷런, 텐서플로』(길벗, 2019), 『케라스 창시자에게 배우는 딥러닝』(길벗,2018), 『핸즈온 머신러닝』(한빛미디어, 2018), 『텐서플로 첫걸음』(한빛미디어, 2016)을 우리말로 옮겼습니다.

• 전체 0개의 구매후기가 있습니다.
• 

인터파크도서는 고객님의 단순 변심에 의한 교환과 반품에 드는 비용은 고객님이 지불케 됩니다. 단, 상품이나 서비스 자체의 하자로 인한 교환 및 반품은 무료로 반품 됩니다. 교환 및 반품이 가능한 경우 상품을 공급 받은 날로부터 7일이내 가능 공급받으신 상품의 내용이 표시, 광고 내용과 다르거나 다르게 이행된 경우에는 공급받은 날로부터 3개월 이내,    혹은 그사실을 알게 된 날 또는 알 수 있었던 날로부터 30일 이내 상품에 아무런 하자가 없는 경우 소비자의 고객변심에 의한 교환은 상품의 포장상태 등이 전혀 손상되지 않은 경우에 한하여 가능 교환 및 반품이 불가능한 경우 구매확정 이후(오픈마켓상품에 한함) 고객님의 책임 있는 사유로 상품 등이 멸실 또는 훼손된 경우    (단, 상품의 내용을 확인하기 위하여 포장 등을 훼손한 경우는 제외) 시간이 지남에 따라 재판매가 곤란할 정도로 물품의 가치가 떨어진 경우 포장 개봉되어 상품 가치가 훼손된 경우 다배송지의 경우 반품 환불 다배송지의 경우 다른 지역의 반품을 동시에 진행할 수 없습니다. 1개 지역의 반품이 완료된 후 다른 지역 반품을 진행할 수 있으므로, 이점 양해해 주시기 바랍니다. 중고상품의 교환 중고상품은 제한된 재고 내에서 판매가 이루어지므로, 교환은 불가능합니다. 오픈마켓 상품의 환불 오픈마켓상품에 대한 책임은 원칙적으로 업체에게 있으므로, 교환/반품 접수시 반드시 판매자와 협의 후 반품 접수를 하셔야하며,    반품접수 없이 반송하거나, 우편으로 보낼 경우 상품 확인이 어려워 환불이 불가능할 수 있으니 유의하시기 바랍니다.

배송예정일 안내 인터파크 도서는 모든 상품에 대해 배송완료예정일을 웹사이트에 표시하고 있습니다. <인터파크 직배송 상품> 상품은 월~토요일 오전 10시 이전 주문분에 대하여 당일 출고/당일 배송완료를 보장하는 상품입니다. 상품은 서울지역/평일 주문분은 당일 출고/익일 배송완료를 보장하며, 서울외지역/평일 주문분의 경우는 오후 6시까지 주문분에 대하여 익일 배송완료를 보장하는 상품입니다. (단, 월요일은 12시까지 주문에 한함) 상품은, 입고예정일(제품출시일)+택배사배송일(1일)에 배송완료를 보장합니다. ~ 상품은 유통특성상 인터파크에서 재고를 보유하지 않은 상품으로 주문일+기준출고일+택배사배송일(1일)에 배송완료를 보장합니다.(토/공휴일은 배송기간에 포함되지 않습니다.) ※기준출고일:인터파크가 상품을 수급하여 물류창고에서 포장/출고하기까지 소요되는 시간 <업체 직접배송/오픈마켓 상품> ~ 상품은 업체가 주문을 확인하고, 출고하기까지 걸리는 시간입니다. 주문일+기준출고일+택배사배송일(2일)에 배송완료를 보장합니다.(토/공휴일은 배송기간에 포함되지 않습니다.) ※5일이내 출고가 시작되지 않을시, 오픈마켓 상품은 자동으로 주문이 취소되며, 고객님께 품절보상금을 지급해 드립니다. 배송비 안내 도서(중고도서 포함)만 구매하시면 : 배송비 2,000원 (1만원이상 구매 시 무료배송) 음반/DVD만 구매하시면 : 배송비 1,500원 (2만원이상 구매 시 무료배송) 잡지/만화/기프트만 구매하시면 : 배송비 2,000원 (2만원이상 구매 시 무료배송) 도서와 음반/DVD를 함께 구매하시면 : 배송비 1,500원 1만원이상 구매 시 무료배송) 도서와 잡지/만화/기프트/중고직배송상품을 함께 구매하시면 : 2,000원 (1만원이상 구매 시 무료배송) 업체직접배송상품을 구매시 : 업체별로 상이한 배송비 적용    * 세트상품의 경우 부분취소 시 추가 배송비가 부과될 수 있습니다.    * 북카트에서 배송비없애기 버튼을 클릭하셔서, 동일업체상품을 조금 더 구매하시면, 배송비를 절약하실 수 있습니다. 해외배송 안내 인터파크도서에서는 국내에서 주문하시거나 해외에서 주문하여 해외로 배송을 원하실 경우 DHL과 특약으로 책정된 요금표에    의해 개인이 이용하는 경우보다 배송요금을 크게 낮추며 DHL(www.dhl.co.kr)로 해외배송 서비스를 제공합니다. 해외배송은 도서/CD/DVD 상품에 한해 서비스하고 있으며, 다른 상품을 북카트에 함께 담으실 경우 해외배송이 불가합니다. 해외주문배송 서비스는 인터파크 도서 회원 가입을 하셔야만 신청 가능합니다. 알아두세요!!! 도매상 및 제작사 사정에 따라 품절/절판 등의 사유로 취소될 수 있습니다. 오픈마켓업체의 배송지연시 주문이 자동으로 취소될 수 있습니다. 출고가능 시간이 서로 다른 상품을 함께 주문할 경우 출고가능 시간이 가장 긴 기준으로 배송됩니다. 유통의 특성상 출고기간은 예정보다 앞당겨지거나 늦춰질 수 있습니다. 택배사 배송일인 서울 및 수도권은 1~2일, 지방은 2~3일, 도서, 산간, 군부대는 3일 이상의 시간이 소요됩니다.