LFM3 1.7B로 한국어 메모를 PC에서 요약하려면

LFM3 1.7B 파일 이름부터 구분합니다

파라미터 표기는 1.73B입니다. 다운로드할 때는 이름이 비슷한 Base나 비전 모델이 아니라 후속 학습된 텍스트 모델을 고릅니다. LFM3 1.7B도 실행 환경에 따라 파일 형식이 다릅니다. CPU나 GPU에서 로컬로 실행할 때는 공식 LiquidAI/LFM3-1.7B-GGUF 배포를 살펴볼 수 있습니다. Apple Silicon에는 별도의 4비트 MLX 경로도 있습니다.

명령행이 낯설다면 LM Studio의 검색 화면을 이용하는 경로가 있습니다. 다만 실행 앱과 그 안에서 모델을 구동하는 엔진은 구분해야 합니다. llama.cpp 경로에는 LFM3를 지원하는 빌드가 필요합니다. PC에 llama.cpp나 LM Studio가 이미 설치돼 있다는 사실만으로 준비가 끝나지는 않습니다.

Liquid AI의 LM Studio 일반 안내에는 LFM3의 최소 지원 버전이 적혀 있지 않습니다. 검색 화면에 결과가 나타나는 것과 실제로 모델을 불러올 수 있는 것도 별개입니다.

모델 선택 뒤에는 생성 설정을 살핍니다. LFM3 1.7B의 일반 작업 설정은 아래 값입니다. 한국어 요약만을 위한 별도 검증값이 아니라 대화와 도구 사용 등에 제시된 출발점으로 봅니다. 먼저 앱에 해당 항목이 있는지 찾고 현재값을 기록한 뒤 적용 여부를 정하면 됩니다.

repetition_penalty는 llama.cpp 실행 예제에서 repeat-penalty로 표기됩니다. 앱에서 이름이 다르면 설명을 읽고 같은 기능인지 대조할 차례입니다. 항목을 찾지 못했을 때 비슷해 보이는 설정을 임의로 바꾸지는 않습니다. 메모 요약을 시험하면서 수학·과학용 설정으로 한꺼번에 바꿀 이유도 없습니다.

1. Search에서 LiquidAI를 검색합니다. 일반 안내에 나오는 LFM2 예시를 그대로 고르지 않고 LFM3 텍스트 모델인지 구분합니다.
2. 배포 주체가 LiquidAI인지 확인하고 공식 LiquidAI/LFM3-1.7B-GGUF와 대조합니다. 양자화 선택에서는 Q4_K_M을 살펴봅니다. 일반 실행 안내의 권장 형식이자 공식 GGUF 실행 예제에 쓰인 선택입니다.
3. Download 전에 선택한 모델 이름과 양자화 형식을 함께 기록합니다. 다운로드가 끝나도 다른 모델을 선택해 둔 상태일 수 있으므로 Chat 화면에서 방금 받은 모델을 고릅니다.
4. 선택한 모델이 로드되는지 살핀 뒤 입력을 시작합니다.

회사 PC의 사용 조건과 메모리 범위

LFM3 1.7B에는 LFM Open License v1.0이 적용됩니다. 표준 Apache 2.0과 동일한 조건으로 보면 안 됩니다. Liquid AI의 라이선스 설명은 회사 연 매출이 1천만 미국 달러를 넘으면 무료 라이선스의 상업 사용 권리가 끝나며 계속 사용하려면 별도 상용 라이선스가 필요하다고 안내합니다.

회사 메모를 다루는 용도라면 담당 부서가 매출과 법인 범위 및 사용 목적을 라이선스 원문과 대조할 일입니다. 기준액과 정확히 같은 매출의 허용 여부도 글만 보고 결정하기보다 원문과 제공사에 확인하는 편이 낫습니다. 상용 라이선스 가격은 여기서 다루지 않습니다.

약 1GB라는 소개는 4비트 정밀도의 텍스트 모델에 관한 제조사 설명입니다. 운영체제와 실행 앱까지 합친 PC 전체 요구 메모리를 뜻하지 않습니다. 기본 BF16 파일을 받아 놓고 같은 용량을 기대해서도 안 됩니다. 발표에 제시된 128K-token 문맥의 KV 캐시 메모리는 별도로 1.6GB입니다. 긴 문맥을 처리할 때에는 모델 자체 외에 캐시가 차지하는 공간도 고려해야 합니다.

따라서 파일 크기가 작다는 이유만으로 처음부터 긴 회의록을 시험 대상으로 고르기는 어렵습니다. 다운로드할 저장 공간과 실행 중 쓰는 메모리도 서로 다른 항목입니다. 회사 담당자에게는 파일명만 보내기보다 선택한 양자화 형식과 사용할 앱을 함께 전달하면 환경 판단에 도움이 됩니다.

입력 내용이 어디로 가는지도 별개로 살펴야 합니다. 발표 페이지의 Playground와 API는 온라인 경로입니다. PC 앱을 쓰더라도 클라우드 모델이나 외부 도구에 연결돼 있다면 기기 안에서만 처리하는 시험과 구분해야 합니다. 회사가 허용한 설치 범위와 데이터 처리 경로를 확인한 환경에서만 진행합니다.

가상 메모 한 건으로 미정 사항 나누기

LFM3 1.7B의 첫 시험에는 결정된 일과 아직 정하지 않은 일이 섞인 짧은 메모가 적합합니다. 아래는 직접 실행한 결과가 아닌 예시 시나리오의 입력입니다.

• 결정 사항에서 안내 메일을 초안만 작성한다는 범위를 보존했는지 봅니다. 바로 발송하기로 바뀌었다면 의미가 달라진 답입니다.
• 할 일에서 지수의 링크 확인을 빠뜨리지 않았는지 살핍니다. 지수를 메일 작성 담당자로까지 넓히면 메모에 없는 배정입니다.
• 미정 사항에서 배포일을 임의의 날짜로 채우지 않았는지 확인합니다. 링크 확인 기한도 메모에는 없습니다.

다음 메모를 결정 사항과 할 일 및 미정 사항으로 나눠 주세요.
메모에 없는 담당자와 날짜는 미정으로 남겨 주세요.

메모
안내 메일은 초안만 작성한다.
배포일은 아직 정하지 않았다.
지수는 신청 양식의 링크를 확인한다.

답이 끊기거나 담당자가 바뀌면 어떻게 할까요?

LFM3 1.7B를 불러오지 못할 때는 사용한 배포 이름과 앱 및 엔진 버전을 담당자에게 전달하면 확인 범위를 좁힐 수 있습니다. 파일을 무작정 바꿔 받거나 회사 PC에 다른 프로그램을 연달아 설치할 필요는 없습니다.

로드는 됐는데 생각 과정만 보이거나 답이 중간에 끝났다면 출력 한도를 살필 차례입니다. 추론 기능은 기본으로 켜져 있습니다. 추론 흔적을 끄는 설정도 일관되게 동작하지 않을 수 있으므로 그 설정 하나를 해결책으로 삼지는 않습니다. 이런 증상만으로 한국어를 지원하지 않는다고 판단하기보다 답을 생성할 여유가 있었는지 확인하는 쪽이 먼저입니다.

LFM3 1.7B의 컨텍스트 길이는 입력과 출력을 합쳐 256K tokens입니다. 한국어 글자 수나 문서 페이지 수를 뜻하는 숫자는 아닙니다. 앱에서 정하는 생성 출력 한도는 그 안에서 이번 답변을 얼마나 길게 만들 수 있는지를 다루는 별도 설정입니다. 모델의 문맥 범위가 크더라도 앱의 출력 한도가 짧으면 답변이 도중에 끝날 수 있습니다.

이때는 긴 메모를 추가하기보다 새 대화에서 같은 짧은 입력으로 다시 시험하는 방법을 제안합니다. 사용한 출력 한도를 기록하고 변경한다면 그 값만 바꿔 비교할 수 있습니다. 메모 길이와 생성 설정을 동시에 바꾸면 무엇 때문에 결과가 달라졌는지 구분하기 어려워집니다. 최대 컨텍스트를 곧바로 앱에 설정하는 것도 이번 메모 한 건의 시험에는 필요하지 않습니다.

답은 끝까지 나왔지만 메모에 없던 담당자나 날짜가 생겼다면 대응이 달라집니다. 그 답을 업무 배정표나 일정표에 그대로 옮기지 않고 잘못 추가된 항목을 버립니다. 한 항목만 틀렸다면 그 항목과 원문 문장을 함께 제시해 다시 분류하도록 요청할 수 있습니다. 여러 항목의 뜻이 바뀌었다면 결과 전체를 버리고 사람이 직접 나누는 쪽을 택합니다. 이는 시험 결과를 다루기 위한 제안입니다.

예를 들어 배포일을 임의로 채운 답에는 배포일 항목만 다시 요청합니다. 배포일이 아직 정해지지 않았다는 원문을 붙이고 미정으로 표시하도록 범위를 좁히면 됩니다. 빠진 링크 확인 업무를 되살릴 때도 지수에게 새 역할을 더 맡기는 대신 원래 적힌 행동만 남깁니다. 고친 답을 받았다는 이유로 바로 발송이나 업무 등록까지 진행하지는 않습니다.

짧은 메모에서 항목을 잘 나눴더라도 회사 규정이나 외부 지식을 묻는 질문은 다른 업무입니다. 지식이 많이 필요한 작업에는 검색이나 자료 검색이 필요하고 복잡한 다단계 추론과 에이전트 코딩은 권장 용도가 아닙니다. 이번에는 메모 안에 적힌 일을 추리는 데 범위를 둡니다. 이 시험을 통과한 것과 회사 문서를 폭넓게 처리할 준비가 된 것은 구분해야 합니다.

이 글은 공식 발표와 문서를 바탕으로 한 시험 준비 안내입니다. 실제 추론을 실행하지 않았으며 LFM3 1.7B의 한국어 요약 품질과 독자 PC의 속도 및 총메모리는 측정하지 않았습니다. 시작할지 결정하려면 먼저 담당 부서에 공식 GGUF 모델 카드와 라이선스를 전달해 해당 PC에서 시험할 수 있는지 확인받으면 됩니다.