Lipschitz continuity (이하 립시츠 연속성) 의 영문 위키를 다른 글에 참조글로 활용하기 위해 번역합니다.
이미지 출처: https://en.wikipedia.org/wiki/Lipschitz_continuity
립시츠 연속성을 가장 직관적으로 잘 표현한 이미지입니다. 이미지를 보면 파란색 함수의 접선이 모두 분홍색 영역에 있음을 머리속에 그려볼 수 있습니다. 립시츠 연속성을 수식으로 표현하면 다음과 같은데
이 의미를 두번째 수식을 이용해서 말로 풀어 설명하면, 주어진 구간안의 함수의 두 점을 이은 직선의 기울기가 K 보다 작다는 것입니다.
이를 "First derivative 도함수가 Bounded function 유계함수인 함수는 립시츠 연속성을 가진다." 라고도 표현합니다.
* Bounded function 유계함수
함수의 절대값이 임의의 값 K 보다 작은 함수,
다른 수식으로 표현하면
와 같습니다.
이 외에도 여러가지 Property 가 있지만 더 자세한 내용은 원문을 참조해주세요.
Lipschitz continuity, 어디다 써먹어?
Gradient descent 같은 최적화 방법론에서 비용함수가 립시츠 연속성을 보인다면 Gradient exploding 같은 문제를 미연에 방지할 수 있습니다.
이 외에도 립시츠 연속 함수를 일반화 하여 Holder-continuous function 횔더 연속 함수를 만든다던지, 다른 여러 수학문제의 정의나 증명등에 활용 될 수 있습니다.
참조
https://en.wikipedia.org/wiki/Lipschitz_continuity