차가운 달빛의 lovian

LLM가지고 뚝딱거리다보면, 종종 만날 수 있는 오류 메시지.LLM에 대한 이해도가 낮은터라, 왜 오류인지 이해하기 어렵다. 내 경우 아래의 코드 때문에 발생했다. (아마 나랑 다들 비슷할듯)pipeline("question-answering", "MY MODEL")digging쪼끔 복잡한 내용을 보면,pipeline 함수는 첫번째 파라미터에 연결된 클래스를 호출하여 사용한다.pipeline 설명을 보면 나오지만, 아래처럼 연결시킨다고 한다(길어서 일부 생략) - `"question-answering"`: will return a [`QuestionAnsweringPipeline`]. - `"summarization"`: will return a [`SummarizationPipeline`]. - `"t..

일단, 나는 파이썬 초보다. 배경요즘 재미가 들려서 이것 저것 만들어보고 있는데, 패키지를 만들고, 의존성을 거는 작업을 하게 되었다.llm_client 라는 패키지를 만들었는데, 로딩해서 사용 가능한 멤버를 보니 아래와 같다.>>> import llm_client>>> llm_client.llm_client.ABC() llm_client.LLMMessage( llm_client.anthropic_clientllm_client.AnthropicClient( llm_client.LLMMessageRole( llm_client.configllm_client.AnthropicConfig( llm_client.List( llm_client.datacl..

배경요즘 flash attention이 핫하다길레 써보기나 하자 하고 흔한 명령어를 입력했다. 문제pip install flash_attnCollecting flash_attn Downloading flash_attn-2.5.9.post1.tar.gz (2.6 MB) ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 2.6/2.6 MB 8.8 MB/s eta 0:00:00 Preparing metadata (setup.py) ... error error: subprocess-exited-with-error × python setup.py egg_info did not run successfully. │ exit code: 1 ╰─> [12 lines of outp..

배경 나는 WSL을 이용해서 oobabooga를 사용하고 있다. WSL에서 직접 실행하기 귀찮아서 start_wsl.bat 파일을 이용한다. 문제 잘 이용하다가, hugging face 토큰이 필요한 모델이 있어서 HF_TOKEN설정 후 download_model.py를 이용하여 모델을 받았는데, webui 내에서 새로고침을 해도 인식 못하는 것을 확인했다. 아는 위치로 탐색 이상해 설치 경로를 찾아갔다. 나는 /home/lovian/ai/text-generation-webui models 경로에 방금 받은 모델 파일만 있는 것을 확인했다.. 그동안 받은건 어디있지?? 용량으로 탐색 어디 숨어 있으려나. 이럴 때는 용량으로 찾는게 편하다. (base) lovian@suhome:~/ai/text-gener..

발단 이 글을 읽는 분이라면 이미 알고 왔을 것 같다. 로지텍의 마우스는 너무 유명하지만, 버튼 불량으로 악명도 높다. 신상 마우스도 1, 2년 쯤 사용하다보면 마우스 버튼이 안눌리거나, 드래그 중에 드래그가 풀리는 현상 등등이 자주 발생한다. 나는 로지텍 마우스를 여러개(아마 6개 정도?) 사용해봤는데, 그런 경험이 전혀 없었다. 그래서 남일이라고 생각했는데, G903을 4년 정도 사용했는데, 드래그 풀림이 발생했다. 이게 생각보다 화가 많이 날 수 밖게 없는 것이. 마우스를 클릭 클릭 할 때는 아무 이상이 없고, 항상 문제가 발생하지도 않는 터라 일시적인가? 라고 착각하게 만든다. 그리고 열심히 컴퓨터로 작업을 하다가 드래그가 필요한 화면에서 드래그가 끊기고 다시 드래그가 시작된다. 마우스로 윈도우 ..

async 인 함수를 테스트 할 필요가 생겼다. #[test] async fn mytest () { println!("this is async fn"); } 이렇게 작성하면 다 될 것 같겠지만, error: async functions cannot be used for tests --> tests/basic_test.rs:66:1 | 66 | async fn mytest() { | ^---- | | | _`async` because of this | | 67 | | println!("this is async fn"); 68 | | } | |_^ 그렇다 cargo test는 async 함수를 지원하지 않는다. 검색 여러모로 검색을 하다보면 tokio-test를 이용하면 된다는 답변이 많이 나오지만, 작지만..

node.js 모듈 번들링을 rollup.js을 이용해봤다. 간단하게 적용해보고 마음에 드는 편이라, CI에 적용을 하기 위해 패키징까지 시도한 상황 목표 패키지 디렉터리 생성 각종 js파일을 bundle.js로 묶기 (rollup의 기본 기능) 필요한 리소스 파일을 패키지 디렉터리에 복사 아래가 내 rollup.config.js export default [ { input: 'src/index.ts', output: { file: 'build/bin/seport.js', format: 'es', sourcemap: true }, plugins: [ del({ targets: './build' }), nodeResolve({ preferBuiltins: true }), typescript(), json(..

발단 javax.net.ssl.SSLHandshakeException: java.security.cert.CertPathValidatorException: Trust anchor for certification path not found. Android에서 HttpsURLConnection을 사용하다가 발생하는 예외였다. iOS에서도 잘되고, iOS Safari, Android Chrome에서도 여튼 다 접속에 문제가 없던 웹 서버인데, 유독 Android에서 프로그래밍으로 접속하면 실패하는 상황에 직면했다. Trust anchor를 못 찾는다는 오류는, 보통 “신뢰하는 루트 인증서“를 인증서 저장소에서 못 찾는 경우에 발생한다 인증서 체인 발급자 인증서 정보를 보면 (브라우저에서 주소창의 자물쇠를 누르..

원문은 아래에서 확인 가능합니다. 데이터 보호 방법이 의미 있을 것 같아서 그부분 위주로 정리 합니다. https://palant.info/2023/01/25/ipinside-koreas-mandatory-spyware/ IPinside: Korea’s mandatory spyware Banking websites in South Korea can only be used with IPinside installed. This application collects lots of data about the user, and it makes that data accessible to each and every website. The protection is inadequate. palant.info 데이터 종류..

레거시 C 모듈을 objective c 에서 사용하고 있었는데, Xcode를 업데이트 하면서 이런 오류가 발생하기 시작했다. 직역해보자면 B라는 곳에서 A 모듈에 대한 헤더포함(include)이 중복되었다 정도로 읽힌다. 맞다. 내가 사용하던 레거시 C모듈은 수많은 C 함수를 구조체에 함수 포인터 목록으로 만들어주는 작업을 전처리기만으로 수행한다. 그러다보니, 한 헤더에서 A.h를 여러번 include 하여 사용하고 있다. (이거 하느라 삽질 엄청한 과거의 기록이 새록새록) 그런데 왜 갑자기 이런 오류를 발생시켰을까? (예전까지 잘 사용했었음) 가장 먼저 찾아낸 것은 이 옵션이다. 모듈이 뭔지는 모르겠으나 C나 Objective C 코드도 모듈로 사용하게 한다고 한다. (이 옵션을 끄면 빌드문제는 해결됨..