차가운 달빛의 lovian

LLM가지고 뚝딱거리다보면, 종종 만날 수 있는 오류 메시지.LLM에 대한 이해도가 낮은터라, 왜 오류인지 이해하기 어렵다. 내 경우 아래의 코드 때문에 발생했다. (아마 나랑 다들 비슷할듯)pipeline("question-answering", "MY MODEL")digging쪼끔 복잡한 내용을 보면,pipeline 함수는 첫번째 파라미터에 연결된 클래스를 호출하여 사용한다.pipeline 설명을 보면 나오지만, 아래처럼 연결시킨다고 한다(길어서 일부 생략) - `"question-answering"`: will return a [`QuestionAnsweringPipeline`]. - `"summarization"`: will return a [`SummarizationPipeline`]. - `"t..

배경 나는 WSL을 이용해서 oobabooga를 사용하고 있다. WSL에서 직접 실행하기 귀찮아서 start_wsl.bat 파일을 이용한다. 문제 잘 이용하다가, hugging face 토큰이 필요한 모델이 있어서 HF_TOKEN설정 후 download_model.py를 이용하여 모델을 받았는데, webui 내에서 새로고침을 해도 인식 못하는 것을 확인했다. 아는 위치로 탐색 이상해 설치 경로를 찾아갔다. 나는 /home/lovian/ai/text-generation-webui models 경로에 방금 받은 모델 파일만 있는 것을 확인했다.. 그동안 받은건 어디있지?? 용량으로 탐색 어디 숨어 있으려나. 이럴 때는 용량으로 찾는게 편하다. (base) lovian@suhome:~/ai/text-gener..

module 'bitsandbytes.nn' has no attribute 'Linear8bitLt' 흔하게 만난다는 오류중에 하나.. 분석 bitsandbytes.nn 이라는 모듈에 Linear8bitLt 라는 기호가 없다는 의미 https://github.com/TimDettmers/bitsandbytes/blob/main/bitsandbytes/nn/modules.py 에 가보면 Linear8BitLt라는 기호가 있음을 확인가능하다 Tag를 열어서 0.32 버전까지 확인했는데 모두 있다. (더 이하의 버전은 여기서 관리되지 않는 듯) 위의 상황을 해석하면 Linear8BitLt라는 기호가 추가되기 전의 버전이 설치된 것 이라고 판단 할 수 있다. 즉 최소 0.32 미만의 버전이 설치되어 있다. 확인..

워낙에 AI가 핫한 시대. stable diffusion에서 시작해서 아주 많은 것들이 나오긴 했다. adobe에서도 한다길레, 한번 써보기로 했다. 아주 오랜동안 사진 편집에 대해서는 adobe가 꽉잡고 있었을테니 (요즘은 잘 모르겠음) 어떻게 잘 만들어놨을까 궁금했다. 이전에 찍어둔 사진에서 일부를 삭제하고 자동 채우기를 시도 해봤다. 경계부분을 자세히 살펴보면, 당연히 기존과 다른 부분이 있다. 그러나 원본을 본 상황이 아니라면, 편집된 사진이라는 것을 인식하기는 매우 어렵다고 판단했다. 우리가 여행가서 사진을 찍으면, 보행자가 많아서 찍을 타이밍 잡느라 시간 허비하는데, AI로 채워보는 것도 괜찮을 것 같다. 물론 이것 말고도 응용할 분야는 넘치겠으나, 사진에 있어서 나는 일반인이니까..