๋žญ์ฒด์ธ์œผ๋กœ LLM ๊ธฐ๋ฐ˜์˜ AI ์„œ๋น„์Šค ๊ฐœ๋ฐœํ•˜๊ธฐ - ์ œ 1์žฅ LLM ํ›‘์–ด๋ณด๊ธฐ

LLM ์ด๋ž€ ๋Œ€๊ทœ๋ชจ '์–ธ์–ด ๋ชจ๋ธ'์œผ๋กœ์ปดํ“จํ„ฐ์—๊ฒŒ ์–ธ์–ด๋ฅผ ๊ฐ€๋ฅด์น˜๋Š” ๋ฐฉ๋ฒ• ์ด๋‹ค.  ์—ฌ๋Ÿฌ๊ฐ€์ง€ ์–ธ์–ด ๋ชจ๋ธ์ด ์กด์žฌ 1. ํ†ต๊ณ„์  ์–ธ์–ด ๋ชจ๋ธ - ์ดˆ์ฐฝ๊ธฐ ์–ธ์–ด ๋ชจ๋ธ๋กœ ํ†ต๊ณ„๋ฅผ ๊ธฐ๋ฐ˜ํ•˜์—ฌ ํ•™์Šต n-gram ํ˜•ํƒœThe cat sat on the mat 1-gramThe / cat / sat / on / the / mat 2-gramThe cat / cat sat / sat on ... 3-gramThe cat sat / cat sat on .... -> ํ†ต๊ณ„์  ํŒจํ„ด ํ•™์Šต์„ ํ†ตํ•œ ์˜ˆ์ธก๋‹จ์ : ๋ฌธ๋งฅ ์ดํ•ด๋„๊ฐ€ ๋–จ์–ด์ง  2. ์‹ ๊ฒฝ๋ง ์–ธ์–ด ๋ชจ๋ธ  ์ธ๊ฐ„์˜ ๋‰ด๋Ÿฐ ์„ธํฌ๊ฐ€ ์„œ๋กœ ์—ฐ๊ฒฐ๋˜์–ด ์ •๋ณด ์ฒ˜๋ฆฌํ•˜๋Š” ๋ฐฉ์‹์„ ๋ณธ ๋”ฐ ๋งŒ๋“ฆ ์ž…๋ ฅ์ธต -> ์€๋‹‰์ธต(๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ, ํŒจํ„ด ํ•™์Šต) -> ์ถœ๋ ฅ์ธต  ๋Œ€ํ‘œ์ ์ธ ์‹ ๊ฒฝ๋ง ์–ธ์–ด ๋ชจ๋ธ1) RNN(Recurrent Neura..

computer science 2024. 7. 3. 19:29
๋ฏธ๋ž˜๋ฅผ ๋ฐ”๊พผ ์•„ํ™‰ ๊ฐ€์ง€ ์•Œ๊ณ ๋ฆฌ์ฆ˜ - ์ œ 8์žฅ ๋ฐ์ดํ„ฐ ๋ฒ ์ด์Šค

์˜จ๋ผ์ธ ๊ฑฐ๋ž˜(๊ธˆ์œต, ๊ฒฐ์ œ ๋“ฑ)์— ํ•ต์‹ฌ์ ์ธ ๊ธฐ์ˆ  - ๊ณต๊ฐœํ‚ค ์•”ํ˜ธํ™” - ๋ฐ์ดํ„ฐ ๋ฒ ์ด์Šค    ๋ฐ์ดํ„ฐ ๋ฒ ์ด์Šค๋Š” ๊ฑฐ๋ž˜ ๊ณผ์ •์—์„œ ๋‘ ๊ฐ€์ง€ ์ฃผ์š” ์‚ฌ์•ˆ์„ ์ฒ˜๋ฆฌํ•œ๋‹ค. 1. ํšจ์œจ์„ฑ - ์ˆ˜์ฒœ ๋ช…์˜ ๊ณ ๊ฐ์ด ์ถฉ๋Œ์ด๋‚˜ ๋ชจ์ˆœ ์—†์ด ๋™์‹œ์— ๊ฑฐ๋ž˜๋ฅผ ์ˆ˜ํ–‰ํ•˜๊ฒŒ ํ•˜๋„๋ก ํ•จ2. ์‹ ๋ขฐ์„ฑ - ๋ฐ์ดํ„ฐ ์†์‹ค์„ ์ผ์œผํ‚ค๋Š” ๋ฌธ์ œ(๋ฌผ๋ฆฌ์  ๊ฒฐํ•จ)๊ฐ€ ๋ฐœ์ƒํ•ด๋„ ๋ฐ์ดํ„ฐ๋ฅผ ๋ณด์ „ํ•˜๋„๋ก ํ•จ  ------------------------------------------------------------------------------------------------ ๋ฐ์ดํ„ฐ๋ฒ ์ด์Šค- ์ •์˜๋œ ๊ตฌ์กฐ๋ฅผ ๊ฐ€์ง€๋Š” ํ…Œ์ด๋ธ” ์ด๋ผ๊ณ  ๋ณผ ์ˆ˜ ์žˆ์œผ๋ฉฐ,- ์ผ๊ด€๋˜์–ด์•ผ ํ•œ๋‹ค e.g.1. A์˜ ์นœ๊ตฌ B, C2. B์˜ ์นœ๊ตฌ D (์ผ๊ด€์„ฑ์— ์–ด๊ธ‹๋‚จ) - ์ž‘์—… ์ฒ˜๋ฆฌ์ค‘ ์‹คํŒจํ•  ๊ฒฝ์šฐ ๋ถˆ์ผ์น˜๊ฐ€ ์ผ์–ด๋‚  ์ˆ˜ ์žˆ์Œ...

computer science 2024. 5. 29. 19:50
UX ์›์น™ 2/e - ์‚ฌ์šฉ์ž๋ฅผ ํ–‰๋ณตํ•˜๊ฒŒ ๋งŒ๋“œ๋Š” 101๊ฐ€์ง€ ์†”๋ฃจ์…˜ (์œŒ ๊ทธ๋žœํŠธ)

1. ์‚ฌ์šฉ์ž์—๊ฒŒ ๋ธŒ๋žœ๋”ฉ ๋””์ž์ธ(UI)์„ ์–ดํ•„ํ•˜๊ธฐ ๋ณด๋‹ค๋Š” ๋ณด๋‹ค๋Š” ์ข‹์€ UX๋ฅผ ์ œ๊ณตํ•˜๊ณ  ๊ทธ๊ฒŒ ๊ณง ๋ธŒ๋žœ๋”ฉ์ด ๋จ (#7) 2. ํฐํŠธ๋Š” 2๊ฐ€์ง€๋งŒ ์‚ฌ์šฉ (ํƒ€์ดํ‹€์šฉ, ๋ณธ๋ฌธ์šฉ) 3. ๊ธ€์ž ํฌ๊ธฐ์™€ ๊ตต๊ธฐ๋กœ ์ •๋ณด ์ฒด๊ณ„ ํ‘œํ˜„ (ํ•˜์ง€๋งŒ ํฌ๊ธฐ ์ข…๋ฅ˜๊ฐ€ 2~3๊ฐ€์ง€ ๋„˜์ง€์•Š๋„๋ก) 4. ํœด๋ฆฌ์Šคํ‹ฑ(์ผ์ƒ ์ƒํ™œ์˜ ๊ฒฝํ—˜)์ด ์ ์šฉ๋œ UI UX๋ฅผ ์ œ๊ณต 5. ๊ฒ€์ƒ‰ ์ž…๋ ฅ ์ฐฝ์€ ๋‹๋ณด๊ธฐ ๋ฒ„ํŠผ๊ณผ ๊ฐ™์ด ์จ์•ผํ•จ(+ ํ„ฐ์น˜ ์‹œ ํ‚ค๋ณด๋“œ๊ฐ€ ์˜ฌ๋ผ์™€์•ผํ•จ) 6. ์Šฌ๋ผ์ด๋” UI๋Š” ์ˆ˜๋Ÿ‰ํ™” ํ•  ์ˆ˜ ์—†๋Š” ๊ฐ’์—๋งŒ(e.g. ๋ณผ๋ฅจ, ๋ฐ๊ธฐ, ์ปฌ๋Ÿฌ๋ฏน์Šค) 7. ์„ ํƒ ์‚ฌํ•ญ์ด 2๊ฐ€์ง€๋ผ๋ฉด ๋ผ๋””์˜ค ๋ฒ„ํŠผ, ์—ฌ๋Ÿฌ ๊ฐ€์ง€์ผ ๊ฒฝ์šฐ ๋ฐ์ดํ„ฐ ํ”ผ์ปค UI (์—ฌ๋Ÿฌ๊ฐ€์ง€ ์ผ ๊ฒฝ์šฐ Filter ์ž…๋ ฅ์ฐฝ์„ ์ถ”๊ฐ€ํ•˜๋ฉด ์ข‹์Œ) 8. ๊ฐ€๋กœ ์Šคํฌ๋กค ์ง€์–‘, ์„ธ๋กœ ์Šคํฌ๋กค ์ง€ํ–ฅ 9. ์ธํ”ผ๋‹ˆํ‹ฐ ์Šคํฌ๋กค์€ ํ”ผ๋“œ์—์„œ๋งŒ (+ํŽ˜์ด์ง€๋„˜๋ฒ„๋งํ•˜๋ฉด์ข‹์Œ)..

computer science 2024. 5. 10. 17:00
๋ฏธ๋ž˜๋ฅผ ๋ฐ”๊พผ ์•„ํ™‰ ๊ฐ€์ง€ ์•Œ๊ณ ๋ฆฌ์ฆ˜ - ์ œ 4์žฅ ๊ณต๊ฐœํ‚ค ์•”ํ˜ธํ™”

๊ณต๊ฐœํ‚ค ์•”ํ˜ธํ™”์•Œ์•„๋ณด๊ธฐ์— ์•ž์„œ ์ƒ๊ฒจ๋‚˜๊ฒŒ๋œ ๋ฐœ๋‹จ์„ ์•Œ์•„๋ณด๊ฒ ์Šต๋‹ˆ๋‹ค.   ๋ฐœ๋‹จ- ๋น„๋ฐ€ ์—ฝ์„œ๋ฅผ ์“ฐ๊ณ  ์‹ถ์Œ ๋น„๋ฐ€ ์—ฝ์„œ๋ฅผ ์“ฐ๋Š” ๋ฐฉ๋ฒ• 2๊ฐ€์ง€ 1. ๋น„๋ฐ€ ๋‚ด์šฉ์„ ์—ฝ์„œ์— ์ ์–ด์„œ ๋ณด๋ƒ„     -> ๋‚ด์šฉ์ด ์œ ์ถœ๋  ์ˆ˜ ์žˆ์Œ 2. ๋น„๋ฐ€ ์ฝ”๋“œ๋ฅผ ์—ฝ์„œ์— ์ ์–ด์„œ ๋ณด๋ƒ„ (์•”ํ˜ธํ™”)     -> ์ˆ˜์‹ ์ž๋งŒ ํ•ด๋… ๊ฐ€๋Šฅ (๋ณตํ˜ธํ™”)    - ์กฐ๊ฑด: ๊ณต์œ ๋œ ๋น„๋ฐ€์ฝ”๋“œ๊ฐ€ ์žˆ์„ ๊ฒฝ์šฐ(๊ณต๊ฐœ ํ‚ค)   - ํ‚ค(key)๋ž€: ๋ณตํ˜ธํ™” ํ•  ๋•Œ ์‚ฌ์šฉ๋˜๋Š” ์ˆซ์ž (์—ด์‡ ๋กœ ๋ฌธ์„ ๋”ฐ๋Š” ๊ฒƒ๊ณผ ๊ฐ™์Œ)    ์•”ํ˜ธํ™” ๋ฐฉ์‹ 1. 128 ๋น„ํŠธ ์•”ํ˜ธํ™”     -> 38์ž๋ฆฌ ์ˆซ์žํ‚ค๋ฅผ ์ด์šฉํ•จ 2. ๋ธ”๋ก ์•”ํ˜ธ    -> ๋ฉ”์„ธ์ง€๋ฅผ 10~15์ž ๋‹จ์œ„ ๋ธ”๋ก์œผ๋กœ ํ‚ค๋ž‘ ์„ž์–ด ์•”ํ˜ธํ™”    -> ๊ฐ€์žฅ ๋งŽ์ด ์“ฐ์ด๋Š” ๋ธ”๋ก ์•”ํ˜ธ๋Š” AES    -> 16์ž ๋ธ”๋ก์„ 128๋น„ํŠธ ํ‚ค์™€ ํ•จ๊ป˜ 10์ฐจ๋ก€ ํ˜ผํ•ฉํ•˜์—ฌ ์•”ํ˜ธํ™” ..

computer science 2024. 5. 1. 18:29
Head First Design Pattern - ์ œ 1์žฅ ์ „๋žต ํŒจํ„ด

๋””์ž์ธ ์›์น™ - ๋‹ฌ๋ผ์ง€๋Š” ๋ถ€๋ถ„์€ ๋ถ„๋ฆฌ, ๋‹ฌ๋ผ์ง€์ง€ ์•Š๋Š” ๋ถ€๋ถ„์€ ์บก์Šํ™” ํ•œ๋‹ค. ๊ตฌํ˜„ ์œ„์ฃผ๊ฐ€ ์•„๋‹Œ, ์ธํ„ฐํŽ˜์ด์Šค ์œ„์ฃผ๋กœ ์ฝ”๋“œ๋ฅผ ์ž‘์„ฑํ•˜๋ฉด ๋” ์œ ์ง€๋ณด์ˆ˜ ํ•˜๊ธฐ๊ฐ€ ์šฉ์ดํ•˜๋‹ค. ์ธํ„ฐํŽ˜์ด์Šค์— ๊ตฌํ˜„ํ•ด์•ผํ•  ๊ธฐ๋Šฅ์„ ์ •์˜ํ•˜๊ณ  ํ•ด๋‹น ์ธํ„ฐํŽ˜์ด์Šค๋ฅผ ์ฑ„ํƒํ•˜๋Š” class์— ๊ฐ ๊ธฐ๋Šฅ์„ ๊ตฌํ˜„ํ•ฉ๋‹ˆ๋‹ค e.g. ์ƒˆ๋ฅผ ํ”„๋กœ๊ทธ๋ž˜๋ฐํ•˜๋ ค๊ณ  ํ•ฉ๋‹ˆ๋‹ค ์ƒˆ๋Š” ์—ฌ๋Ÿฌ ์ข…๋ฅ˜๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค. ์šฐ์„  ๊ธฐ๋ณธ์ ์œผ๋กœ ๋‚ ๊ฐœ์ง“์„ ํ•˜๋Š”๋ฐ ๋‚ ์ˆ˜๋„์žˆ๊ณ  ๋‚ ์ง€ ๋ชปํ• ์ˆ˜๋„ ์žˆ์Šต๋‹ˆ๋‹ค. ๋””์ž์ธ ์›์น™์„ ์ ์šฉํ•˜์—ฌ ์ธํ„ฐํŽ˜์ด์Šค ์œ„์ฃผ์˜ ๊ตฌํ˜„์„ ํ•ด๋ณด๊ฒ ์Šต๋‹ˆ๋‹ค. ์ธํ„ฐํŽ˜์ด์Šค์—๋Š” ๋‚ ๊ฐœ์ง“ํ•œ๋‹ค๋Š” Fly ํ•จ์ˆ˜๊ฐ€ ์ •์˜๋˜์–ด์žˆ๊ณ (์บก์Šํ™”) ๋‚ ์ˆ˜์žˆ๋Š” class์™€ ๋‚ ์ง€ ๋ชปํ•˜๋Š” class๋กœ ๋ถ„๋ฆฌํ•˜์—ฌ ๋ถ„๋ฅ˜ํ•ฉ๋‹ˆ๋‹ค ํ•ด๋‹น class๋Š” ๋ชจ๋‘ Fly๋ผ๋Š” ํ•จ์ˆ˜๊ฐ€ ์ •์˜๋œ ์ธํ„ฐํŽ˜์ด์Šค๋ฅผ ์ƒ์†ํ•ฉ๋‹ˆ๋‹ค ์ด๋ ‡๊ฒŒ ์ž‘์„ฑํ•  ๊ฒฝ์šฐ ๋‚˜๋Š” ์ƒˆ, ๋‚ ์ง€ ๋ชปํ•˜๋Š” ์ƒˆ ๋ชจ๋‘ ๋™..

computer science 2023. 12. 25. 23:15