[ML/DL] Activation function(활성화 함수)의 쓸모

차근차근 실습하며 배우는 파이토치 딥러닝이라는 책을 통해 파이토치를 공부하고 있는데 내가 두루뭉술하게만 알고 있었던 내용을 일목요연하게 정리해주는 내용이 있어 한번 정리해보고자 한다.(시험기간인데 너무 재밌어서 이것만 공부하고 있다.. 😭)  활성화 함수(Activation Function) 결론부터 말하자면 활성화 함수의 공통점은 모두 비선형 함수라는 것이다.  활성화 함수의 비선형성이 왜 필요할까를 생각하기 이전에, 우리가 생각하는 딥러닝 아키텍쳐에 대해 다시 한번 생각해보자. 우리는 흔히 딥러닝을 레고 블럭을 쌓는 것에 비유한다. 이 때 레고 블럭 하나하나를 층(layer)이라고 하며, 각각의 layer는 선형함수다. 이렇게 딥러닝에서 층을 쌓는 이유는 모델이 더 복잡하고 추상적인 표현을 학습할 ..

• format_list_bulleted Analytics
• · 2024. 5. 5.
• textsms

[RecSys] 연관 규칙(Association Rule)

RecSys 공부를 하며 가장 먼저 선행되어야 할 공부는 개인적으로 알고리즘 공부라고 생각된다. 몇억개의 로그 데이터를 다루고 분석함에 있어서 빈틈 없는 알고리즘 구조를 익혀야 한다고 생각한다.. 그 중 가장 기본이 되는 Apriori 알고리즘을 공부하고자 하는데, 그 전에 선행되어야 하는 Association Rule에 대해 간략히 정리해보고자 한다. Association Rule 대학교 데이터 분석 수업시간에 마트에서 기저귀를 사는 사람들은 맥주도 함께 사간다는 예시를 들은 경험이 있다. 연관 규칙(Association Rule)은 이 예시와 같다. 즉, 이렇게 어떤 사건이 얼마나 자주 발생하고 서로 얼마나 연관되어 있는지를 나타내는 것이 Association Rule이라고 보면 된다. 연관 규칙(A..

• format_list_bulleted Analytics
• · 2024. 4. 30.
• textsms

[Data] 정규화(Normalization) / 표준화(Standardization)

거리 기반 알고리즘의 경우, 모델링 이전에 반드시 정규화 또는 표준화 작업이 필수적이다. 진짜 별거는 아닌데, 정규화와 표준화에 대한 개념이 중간중간 헷갈려서 다시 한번 제대로 정리해보고자 한다. 정규화(Normalization) 정규화는 데이터의 범위를 0부터 1까지로 변환하여 데이터의 분포를 조정하는 방법이다. 정규화의 경우 해당 값이 어떤 위치에 있는지 파악하는데 유용하다. 정규화의 종류는 min-max 정규화 방식이 자주 사용되는 방식이라고 할 수 있겠다. 수식은 아래와 같다.  $$x_{scaled}=\frac{x - x_{min}}{x_{max}-x_{min}}$$  표준화(Standardization) 표준화는 각 관측치의 값이 전체 평균을 기준으로 어느 정도 떨어져 있는지를 나타낼 때 사용..

• format_list_bulleted Analytics
• · 2024. 4. 30.
• textsms

[Python] 모듈(Module)

웹/파이썬 강의를 수강하며 모듈에 대한 설명을 잠깐 언급하셨는데, 이 기회에 한번 확실하게 정리하고자 한다.  파이썬 프로젝트를 진행할 때, 각각의 기능들을 모듈(Modules)화하여 사용한다. 여기서 모듈이란 자주 사용하는 함수들을 별도의 파일(.py)로 저장하는 것을 의미한다. 모듈은 파이썬에 bulit-in 되어 있는 모듈과 개발자가 직접 만드는 사용자 정의 모듈로 구분된다. 복잡한 프로그램을 설계할 때 하나의 파일로 모든 기능을 구현하는 것은 코드 가독성 및 효율성에 굉장히 부합하지 않는 설계이다. (가능은 하지만.. 절대 바람직하지 않은 행동이다) 때문에 항상 프로젝트를 진행할 때는 모듈화를 통해 코드 가독성과 유지보수가 빠르게 이루어질 수 있도록 하는 것이 중요하다. 아래는 모듈화의 예시이다...

• format_list_bulleted Python
• · 2024. 4. 26.
• textsms

[Python] 이스케이프 시퀸스(Escape Sequence)

웹/파이썬 수업을 정리하면서 이스케이프 시퀸스(Escape Sequence)에 대해 한번 정리하고 가는게 좋을 것 같아서 정리해보고자 한다. 이스케이프 시퀸스(Escape Sequence) 이스케이프 시퀸스란, 출력 시에 특별한 제어 기능을 가진 문자열이다. 이스케이프 시퀸스에 사용되는 백슬래쉬(\)는 escape character이라고 불리며, 백슬래쉬(\) + 특정 문자열로 이스케이프 시퀸스를 나타낸다. (언어마다 제공하는 이스케이프 시퀸스가 다르기 때문에, 확인이 필요하다!) 이스케이프 시퀸스 종류 파이썬에서 제공하는 이스케이프 시퀸스 종류는 아래 표와 같다. Escape SequenceDescription\'작은따옴표 출력\"쌍따옴표 출력\\백슬래쉬 출력\ttab 출력\nnew line 출력\v수..

• format_list_bulleted Python
• · 2024. 4. 26.
• textsms

[Python] join 함수

매일매일 ML, DL만 공부하다 보니 기본적인 파이썬 문법을 다 까먹었다. 큰일이다.. 그래도 하나하나 정리하면 다시 기억나겠지..!! 이번에 정리할 함수는 .join()함수이다. .join() .join() 함수의 경우 문자열을 다룰 때 유용하게 사용할 수 있는 함수로 매개변수로 들어온 리스트에 있는 요소 하나하나를 합쳐서 하나의 문자열로 바꾸어 반환하는 함수이다. join의 사용은 크게 2가지 경우로 나누어 생각해볼 수 있다. 첫번째 경우는 "".join(리스트)를 이용하면 매개변수로 들어온 리스트의 원수를 문자얄로 합쳐서 반환해주는 함수다. 아래 예시로 감을 잡아보자. n_list = [1, 2, 3, 4, 5]result = "".join(n_list)print(result)# 결과값# 12345..

• format_list_bulleted Python
• · 2024. 4. 25.
• textsms