> ## Documentation Index
> Fetch the complete documentation index at: https://0x38a.mintlify.site/llms.txt
> Use this file to discover all available pages before exploring further.

# MF-LPR2

> 저화질 블랙박스 영상의 번호판을 다중 프레임 기반으로 복원하는 Computer Vision 프로젝트.

MF-LPR2는 Multi-Frame License Plate Restoration & Recognition의 약자입니다. 블랙박스 영상에서 흐릿한 자동차 번호판을 고화질로 복원하는 딥러닝 기반 화질 개선 시스템입니다.

<Frame>
  <img src="https://mintcdn.com/0x38a/g-1hLDU267VcSxbl/images/lpr2/structure.png?fit=max&auto=format&n=g-1hLDU267VcSxbl&q=85&s=95d100c175958902d717257f04b1af26" alt="MF-LPR2 pipeline structure" width="2379" height="441" data-path="images/lpr2/structure.png" />
</Frame>

## Overview

| Field      | Value                                    |
| ---------- | ---------------------------------------- |
| Period     | 2023.06 - 2024.12                        |
| Domain     | Computer Vision                          |
| Repository | [LPR2](https://github.com/choihjin/LPR2) |
| Result     | Worst 30% frame 기준 RMSE 13.37% 개선        |

## My role

* DeepLabV3 기반 번호판 영역 추출 및 시점 보정
* FlowFormer++ 기반 프레임 정렬 파이프라인 구성
* TCDM 기반 후처리로 번호판 복원 품질 개선
* 번호판 세그멘테이션, 시점 보정, scene text prior 기반 후처리 실험과 구현 담당

## Pipeline

1. DeepLabV3로 번호판 영역을 추출합니다.
2. Homography로 번호판 영역을 고정 비율로 보정합니다.
3. FlowFormer++로 프레임 간 optical flow를 추정합니다.
4. 기준 프레임으로 여러 프레임을 정렬합니다.
5. CLAHE와 TCDM 기반 후처리로 복원 품질을 개선합니다.

## Core stack

| Area                   | Stack                         |
| ---------------------- | ----------------------------- |
| Language and framework | Python, PyTorch, OpenCV       |
| Models                 | DeepLabV3, FlowFormer++, TCDM |
| Hardware               | CUDA                          |

## Metrics

| Metric                           | Value  |
| -------------------------------- | ------ |
| Detection Precision              | 0.890  |
| Detection Recall                 | 0.875  |
| Average RMSE improvement         | 3.71%  |
| Worst 30% frame RMSE improvement | 13.37% |

## Results

<Columns cols={2}>
  <Card title="Restoration comparison" img="https://mintcdn.com/0x38a/g-1hLDU267VcSxbl/images/lpr2/result1.png?fit=max&auto=format&n=g-1hLDU267VcSxbl&q=85&s=f9ce17c3569d76ff7f483456c2f3f88d" width="603" height="111" data-path="images/lpr2/result1.png">
    기존 super-resolution 모델 대비 hallucination을 줄이는 방향으로 실험했습니다.
  </Card>

  <Card title="Recognition-oriented restoration" img="https://mintcdn.com/0x38a/g-1hLDU267VcSxbl/images/lpr2/result2.png?fit=max&auto=format&n=g-1hLDU267VcSxbl&q=85&s=355952bb836cb931206262795475e626" width="910" height="256" data-path="images/lpr2/result2.png">
    번호판 인식 가능한 품질로 복원하는 것을 목표로 했습니다.
  </Card>
</Columns>

## Collaboration

NC&와 산학협력으로 실제 블랙박스 데이터 기반 검증과 피드백을 반영했습니다.
