ಮಾರ್ಗದರ್ಶಿಗಳು

RAG ಎಂದರೇನು? Retrieval-Augmented Generation ಸರಳ ವಿವರಣೆ

RAG (retrieval-augmented generation) ಎಂದರೆ AI ಮಾದರಿ ನಿಮ್ಮ ಸ್ವಂತ ಮಾಹಿತಿಯನ್ನು ಬಳಸಿ ಪ್ರಶ್ನೆಗಳಿಗೆ ಉತ್ತರಿಸುವ ವಿಧಾನ. ಯಾರಾದರೂ ಪ್ರಶ್ನೆ ಕೇಳಿದಾಗ, ನಿಮ್ಮ ಆ್ಯಪ್ ಮೊದಲು ನಿಮ್ಮ ದಾಖಲೆಗಳಲ್ಲಿ ಅತ್ಯಂತ ಸಂಬಂಧಿತ ಭಾಗಗಳನ್ನು ಹುಡುಕುತ್ತದೆ, ನಂತರ ಆ ಭಾಗಗಳನ್ನು ಪ್ರಶ್ನೆಯೊಂದಿಗೆ ಮಾದರಿಗೆ ನೀಡುತ್ತದೆ. ತರಬೇತಿಯ ಸಮಯದಲ್ಲಿ ಆಕಸ್ಮಿಕವಾಗಿ ಕಲಿತದ್ದರ ಮೇಲೆ ಮಾತ್ರ ಅವಲಂಬಿಸದೆ, ಮಾದರಿ ಆ ಪಠ್ಯದಿಂದಲೇ ತನ್ನ ಉತ್ತರ ಬರೆಯುತ್ತದೆ.

AI ಜೊತೆಗೆ ನಿರ್ಮಿಸುವಾಗ RAG ಏಕೆ ಮುಖ್ಯ

ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿ ಜಗತ್ತಿನ ಬಗ್ಗೆ ಬಹಳಷ್ಟು ತಿಳಿದಿದೆ, ಆದರೆ ನಿಮ್ಮ ವ್ಯವಹಾರದ ಬಗ್ಗೆ ಏನೂ ತಿಳಿದಿಲ್ಲ: ನಿಮ್ಮ ಬೆಲೆಗಳು, ನೀತಿಗಳು, ಉತ್ಪನ್ನ ಕೈಪಿಡಿ, ಕಳೆದ ವಾರದ ಬೆಂಬಲ ಟಿಕೆಟ್‌ಗಳು. ಅದಕ್ಕೆ ತರಬೇತಿ ಮುಕ್ತಾಯದ ದಿನಾಂಕವೂ ಇದೆ, ಆದ್ದರಿಂದ ಇತ್ತೀಚಿನದ್ದೇನೂ ತಿಳಿದಿರುವುದಿಲ್ಲ. ಆದರೂ ಕೇಳಿದರೆ ಅದು ಆತ್ಮವಿಶ್ವಾಸದಿಂದ, ಸಮಂಜಸವಾಗಿ ಕಾಣುವ ಆದರೆ ತಪ್ಪಾದ ಉತ್ತರ ನೀಡಬಹುದು.

ಇದನ್ನು ಸರಿಪಡಿಸಲು ಮೂರು ಮುಖ್ಯ ಆಯ್ಕೆಗಳಿವೆ:

ವಿಧಾನಏನು ಮಾಡುತ್ತದೆಯಾವುದಕ್ಕೆ ಒಳ್ಳೆಯದು
ಎಲ್ಲವನ್ನೂ ಪ್ರಾಂಪ್ಟ್‌ನಲ್ಲಿ ಹಾಕುವುದುಪ್ರತಿ ಪ್ರಶ್ನೆಯೊಂದಿಗೆ ನಿಮ್ಮ ಎಲ್ಲ ದಾಖಲೆಗಳನ್ನು ಕಳುಹಿಸುವುದುಕಡಿಮೆ ಪಠ್ಯ — ಕೆಲವು ಪುಟಗಳು
RAGನಿಮ್ಮ ದಾಖಲೆಗಳನ್ನು ಹುಡುಕಿ, ಸಂಬಂಧಿತ ಭಾಗಗಳನ್ನು ಮಾತ್ರ ಕಳುಹಿಸುವುದುದೊಡ್ಡ ಅಥವಾ ಬದಲಾಗುವ ಸಂಗ್ರಹಗಳು: ಸಹಾಯ ಕೇಂದ್ರಗಳು, ಕೈಪಿಡಿಗಳು, ಟಿಪ್ಪಣಿಗಳು
ಫೈನ್-ಟ್ಯೂನಿಂಗ್ಉದಾಹರಣೆಗಳ ಮೇಲೆ ಮಾದರಿಗೆ ಹೆಚ್ಚುವರಿ ತರಬೇತಿಧ್ವನಿ, ಸ್ವರೂಪ ಮತ್ತು ಪುನರಾವರ್ತಿತ ಕೆಲಸಗಳು — ಬದಲಾಗುವ ಸಂಗತಿಗಳಲ್ಲ

ಆಧುನಿಕ ಮಾದರಿಗಳು ದೀರ್ಘ ಪ್ರಾಂಪ್ಟ್‌ಗಳನ್ನು ಸ್ವೀಕರಿಸುತ್ತವೆ, ಆದ್ದರಿಂದ ಚಿಕ್ಕ FAQ ಗೆ ಮೊದಲ ಆಯ್ಕೆ ಸಾಮಾನ್ಯವಾಗಿ ಸಾಕು. ಪ್ರತಿ ಬಾರಿ ಕಳುಹಿಸಲು ಬಯಸದಷ್ಟು ಹೆಚ್ಚು ಪಠ್ಯ ಇದ್ದಾಗ RAG ತನ್ನ ಸ್ಥಾನ ಗಳಿಸುತ್ತದೆ — ಏಕೆಂದರೆ ನೀವು ಕಳುಹಿಸುವ ಪ್ರತಿ ಪದಕ್ಕೆ ವೆಚ್ಚ ಮತ್ತು ಸಮಯ ತಗುಲುತ್ತದೆ (ನೋಡಿ LLM APIಗಳು ಶುಲ್ಕ ವಿಧಿಸುವ ಬಗೆ).

"ನಮ್ಮ ದಾಖಲೆಗಳೊಂದಿಗೆ ಮಾತನಾಡಿ" ಫೀಚರ್, ಬೆಂಬಲ ಸಹಾಯಕ ಅಥವಾ ಆಂತರಿಕ ಜ್ಞಾನ ಸಾಧನವನ್ನು ನೀವು ನಿರ್ಮಿಸುತ್ತಿದ್ದರೆ, ನೀವು ಬಹುತೇಕ ಖಚಿತವಾಗಿ ಕೆಲವು ರೂಪದ RAG ಅನ್ನು ನಿರ್ಮಿಸುತ್ತಿದ್ದೀರಿ.

ದೈನಂದಿನ ಉದಾಹರಣೆ

ತೆರೆದ ಪುಸ್ತಕ ಪರೀಕ್ಷೆಯನ್ನು ಊಹಿಸಿ. ನೆನಪಿನಿಂದ ಉತ್ತರಿಸಬೇಕಾದ ವಿದ್ಯಾರ್ಥಿ ತಪ್ಪಾಗಿ ನೆನಪಿಸಿಕೊಳ್ಳಬಹುದು ಅಥವಾ ನಟಿಸಬಹುದು. ಮೊದಲು ಸರಿಯಾದ ಪುಟಗಳನ್ನು ತಿರುಗಿಸಿ, ಓದಿ, ನಂತರ ಉತ್ತರಿಸಲು ಅನುಮತಿ ಇರುವ ವಿದ್ಯಾರ್ಥಿ ಹೆಚ್ಚು ವಿಶ್ವಾಸಾರ್ಹ — ಆದರೆ ಸರಿಯಾದ ಪುಟಗಳನ್ನು ಕಂಡುಕೊಂಡರೆ ಮಾತ್ರ.

  • ವಿದ್ಯಾರ್ಥಿ ಎಂದರೆ ಭಾಷಾ ಮಾದರಿ.
  • ಪಠ್ಯಪುಸ್ತಕ ಎಂದರೆ ನಿಮ್ಮ ದಾಖಲೆಗಳು.
  • ಸರಿಯಾದ ಪುಟಗಳನ್ನು ತಿರುಗಿಸುವುದು ಎಂದರೆ ಹುಡುಕಾಟ (retrieval).
  • ಆ ಪುಟಗಳಿಂದ ಉತ್ತರ ಬರೆಯುವುದು ಎಂದರೆ ಉತ್ಪಾದನೆ (generation).

RAG ಎಂದರೆ ತೆರೆದ ಪುಸ್ತಕದ ಆವೃತ್ತಿ. ಮತ್ತು ಪರೀಕ್ಷೆಯಂತೆಯೇ, ಉತ್ತರದ ಗುಣಮಟ್ಟ ಸರಿಯಾದ ಪುಟಗಳನ್ನು ಕಂಡುಕೊಂಡಿದ್ದೀರಾ ಎಂಬುದರ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿರುತ್ತದೆ.

RAG ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ, ಹಂತ ಹಂತವಾಗಿ

ಸಾಮಾನ್ಯ RAG ವ್ಯವಸ್ಥೆಗೆ ಎರಡು ಹಂತಗಳಿವೆ.

ನಿಮ್ಮ ದಾಖಲೆಗಳನ್ನು ಸಿದ್ಧಪಡಿಸುವುದು (ಮುಂಚಿತವಾಗಿ ಮಾಡಲಾಗುತ್ತದೆ):

  1. ಸಂಗ್ರಹಿಸಿ — ಸಹಾಯ ಲೇಖನಗಳು, PDFಗಳು, ನೀತಿಗಳು, ಉತ್ಪನ್ನ ಡೇಟಾ.
  2. ತುಂಡುಗಳಾಗಿ ವಿಭಜಿಸಿ (chunk) — ಉದ್ದದ ದಾಖಲೆಗಳನ್ನು ಸಣ್ಣ ಭಾಗಗಳಾಗಿ ವಿಭಜಿಸಿ, ಸಾಮಾನ್ಯವಾಗಿ ಕೆಲವು ಪ್ಯಾರಾಗಳಷ್ಟು, ಆಗ ಹುಡುಕಾಟ ಸಂಬಂಧಿತ ಭಾಗವನ್ನೇ ಹಿಂತಿರುಗಿಸಬಹುದು.
  3. ಎಂಬೆಡ್ ಮಾಡಿ — ಪ್ರತಿ ತುಂಡನ್ನು ಎಂಬೆಡಿಂಗ್ ಮಾದರಿಗೆ ಕಳುಹಿಸಿ, ಅದು ಪಠ್ಯವನ್ನು ಎಂಬೆಡಿಂಗ್ ಆಗಿ ಪರಿವರ್ತಿಸುತ್ತದೆ — ಅರ್ಥವನ್ನು ಹಿಡಿಯುವ ದೀರ್ಘ ಸಂಖ್ಯೆಗಳ ಪಟ್ಟಿ. ಒಂದೇ ವಿಷಯದ ಕುರಿತ ಪಠ್ಯಗಳು ಹೋಲುವ ಸಂಖ್ಯೆಗಳನ್ನು ಪಡೆಯುತ್ತವೆ.
  4. ಸಂಗ್ರಹಿಸಿ — ತುಂಡುಗಳನ್ನು ಮತ್ತು ಅವುಗಳ ಎಂಬೆಡಿಂಗ್‌ಗಳನ್ನು ಸಾಮ್ಯತೆಯ ಮೂಲಕ ಹುಡುಕಬಲ್ಲ ಡೇಟಾಬೇಸ್‌ನಲ್ಲಿ ಇರಿಸಿ (ಸಾಮಾನ್ಯವಾಗಿ ವೆಕ್ಟರ್ ಡೇಟಾಬೇಸ್ ಅಥವಾ ವೆಕ್ಟರ್ ಇಂಡೆಕ್ಸ್ ಎನ್ನುತ್ತಾರೆ).

ಪ್ರಶ್ನೆಗೆ ಉತ್ತರಿಸುವುದು (ಪ್ರತಿ ಬಾರಿ ಮಾಡಲಾಗುತ್ತದೆ):

  1. ಪ್ರಶ್ನೆಯನ್ನು ಎಂಬೆಡ್ ಮಾಡಿ — ಅದೇ ಎಂಬೆಡಿಂಗ್ ಮಾದರಿಯನ್ನು ಬಳಸಿ.
  2. ಹಿಂಪಡೆಯಿರಿ — ಪ್ರಶ್ನೆಯ ಎಂಬೆಡಿಂಗ್‌ಗೆ ಹತ್ತಿರವಿರುವ ತುಂಡುಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳಿ — ಉದಾಹರಣೆಗೆ ಮೊದಲ ಐದು.
  3. ಪ್ರಾಂಪ್ಟ್ ನಿರ್ಮಿಸಿ — ಸೂಚನೆಗಳು, ಹಿಂಪಡೆದ ತುಂಡುಗಳು ಮತ್ತು ಪ್ರಶ್ನೆ.
  4. ಉತ್ಪಾದಿಸಿ — ಭಾಷಾ ಮಾದರಿ ಆ ತುಂಡುಗಳ ಆಧಾರದ ಮೇಲೆ ಉತ್ತರ ಬರೆಯುತ್ತದೆ, ಆದರ್ಶವಾಗಿ ಯಾವ ತುಂಡುಗಳನ್ನು ಬಳಸಿತು ಎಂದು ಉಲ್ಲೇಖಿಸುತ್ತದೆ.

ಅರ್ಥದ ಆಧಾರದ ಮೇಲೆ ಹುಡುಕುವುದೇ ಇದನ್ನು ಸಾಧ್ಯವಾಗಿಸುತ್ತದೆ: “ನನ್ನ ಹಣ ವಾಪಸ್ ಪಡೆಯುವುದು” ಎಂಬ ಪ್ರಶ್ನೆ, ಪದಗಳು ಒಂದೇ ಇಲ್ಲದಿದ್ದರೂ, “ಮರುಪಾವತಿ ನೀತಿ” ಎಂಬ ಶೀರ್ಷಿಕೆಯ ತುಂಡನ್ನು ಕಂಡುಕೊಳ್ಳಬಹುದು.

ಕೆಲಸ ಮಾಡಿದ ಉದಾಹರಣೆ: ಜಿಮ್‌ನ ಸಹಾಯಕ

ಒಂದು ಜಿಮ್‌ನಲ್ಲಿ 40 ಸಹಾಯ ಲೇಖನಗಳಿವೆ ಮತ್ತು ತನ್ನ ವೆಬ್‌ಸೈಟ್‌ನಲ್ಲಿ ಚಾಟ್ ಸಹಾಯಕ ಬೇಕು ಎಂದುಕೊಳ್ಳಿ. ಒಬ್ಬ ಸದಸ್ಯ ಕೇಳುತ್ತಾರೆ: “ಪ್ರವಾಸದಲ್ಲಿರುವಾಗ ನನ್ನ ಸದಸ್ಯತ್ವವನ್ನು ವಿರಾಮಗೊಳಿಸಬಹುದೇ?”

ಆ್ಯಪ್ ಪ್ರಶ್ನೆಯನ್ನು ಎಂಬೆಡ್ ಮಾಡಿ ಮೂರು ಹತ್ತಿರದ ತುಂಡುಗಳನ್ನು ಹಿಂಪಡೆಯುತ್ತದೆ. ಅವುಗಳಲ್ಲಿ ಒಂದು ಹೀಗೆ ಓದುತ್ತದೆ:

Membership freeze: Members on monthly plans can freeze their
membership for up to 2 months per year. Request it at the front
desk or in the app at least 7 days before the freeze starts.

ನಂತರ ಮಾದರಿಗೆ ಕಳುಹಿಸಲಾದ ಪ್ರಾಂಪ್ಟ್ ಹೀಗೆ ಕಾಣುತ್ತದೆ:

ನೀವು Northside Gym ನ ಸಹಾಯ ಸಹಾಯಕರು.
ಕೆಳಗಿನ ಮೂಲಗಳಿಂದ ಮಾತ್ರ ಉತ್ತರಿಸಿ. ಉತ್ತರ ಅವುಗಳಲ್ಲಿ ಇಲ್ಲದಿದ್ದರೆ,
ನಿಮಗೆ ತಿಳಿಯದು ಎಂದು ಹೇಳಿ ಮತ್ತು ಫ್ರಂಟ್ ಡೆಸ್ಕ್ ಅನ್ನು ಸಂಪರ್ಕಿಸಲು ಸೂಚಿಸಿ.
ನೀವು ಬಳಸಿದ ಮೂಲವನ್ನು ಉಲ್ಲೇಖಿಸಿ.

[ಮೂಲ 1: Membership freeze] Members on monthly plans can freeze...
[ಮೂಲ 2: Cancelling your membership] ...
[ಮೂಲ 3: Guest passes] ...

ಪ್ರಶ್ನೆ: ಪ್ರವಾಸದಲ್ಲಿರುವಾಗ ನನ್ನ ಸದಸ್ಯತ್ವವನ್ನು ವಿರಾಮಗೊಳಿಸಬಹುದೇ?

ಮತ್ತು ಮಾದರಿ ಉತ್ತರಿಸುತ್ತದೆ: “ಹೌದು — ಮಾಸಿಕ ಯೋಜನೆಯಲ್ಲಿ ವರ್ಷಕ್ಕೆ ಎರಡು ತಿಂಗಳವರೆಗೆ ನಿಮ್ಮ ಸದಸ್ಯತ್ವವನ್ನು ಫ್ರೀಜ್ ಮಾಡಬಹುದು. ಆರಂಭಕ್ಕೆ ಕನಿಷ್ಠ 7 ದಿನ ಮೊದಲು ಫ್ರಂಟ್ ಡೆಸ್ಕ್‌ನಲ್ಲಿ ಅಥವಾ ಆ್ಯಪ್‌ನಲ್ಲಿ ವಿನಂತಿಸಿ (ಮೂಲ: Membership freeze).”

ಜಿಮ್ ಏನನ್ನೂ ಮರುತರಬೇತಿ ಮಾಡಲಿಲ್ಲ. ಫ್ರೀಜ್ ನೀತಿ ಬದಲಾದಾಗ, ಲೇಖನವನ್ನು ನವೀಕರಿಸುತ್ತದೆ, ಆ್ಯಪ್ ಆ ತುಂಡನ್ನು ಮರು-ಎಂಬೆಡ್ ಮಾಡುತ್ತದೆ ಮತ್ತು ಮುಂದಿನ ಉತ್ತರ ಅದನ್ನು ಪ್ರತಿಫಲಿಸುತ್ತದೆ.

ಪ್ರಮುಖ ಪದಗಳು

ಪದಅರ್ಥ
LLMದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿ — ಉತ್ತರ ಬರೆಯುವ AI. ನೋಡಿ LLM ಎಂದರೇನು.
ಎಂಬೆಡಿಂಗ್ (Embedding)ಒಂದು ಪಠ್ಯದ ಅರ್ಥವನ್ನು ಪ್ರತಿನಿಧಿಸುವ ಸಂಖ್ಯೆಗಳ ಪಟ್ಟಿ.
ಎಂಬೆಡಿಂಗ್ ಮಾದರಿಎಂಬೆಡಿಂಗ್ ಉತ್ಪಾದಿಸುವ ಮಾದರಿ. ಸಾಮಾನ್ಯವಾಗಿ ಚಾಟ್ ಮಾದರಿಗಿಂತ ಪ್ರತ್ಯೇಕ ಮತ್ತು ಹೆಚ್ಚು ಅಗ್ಗ.
ತುಂಡು (Chunk)ದಾಖಲೆಯ ಒಂದು ಭಾಗ, ಅದನ್ನು ಸ್ವತಂತ್ರವಾಗಿ ಹಿಂಪಡೆಯುವಷ್ಟು ಗಾತ್ರದಲ್ಲಿ.
ವೆಕ್ಟರ್ ಡೇಟಾಬೇಸ್ / ವೆಕ್ಟರ್ ಹುಡುಕಾಟಹೋಲುವ ಎಂಬೆಡಿಂಗ್‌ಗಳಿರುವ ವಸ್ತುಗಳನ್ನು ಹುಡುಕುವ ಸಂಗ್ರಹ. ಕೆಲವು ಸಾಮಾನ್ಯ ಡೇಟಾಬೇಸ್‌ಗಳೂ ಇದನ್ನು ನೀಡುತ್ತವೆ — ಉದಾಹರಣೆಗೆ Postgres, pgvector ವಿಸ್ತರಣೆಯ ಮೂಲಕ.
Top-kಪ್ರತಿ ಪ್ರಶ್ನೆಗೆ ಎಷ್ಟು ತುಂಡುಗಳನ್ನು ಹಿಂಪಡೆಯಲಾಗುತ್ತದೆ.
ಹೈಬ್ರಿಡ್ ಹುಡುಕಾಟಅರ್ಥ ಆಧಾರಿತ ಹುಡುಕಾಟವನ್ನು ಸಾಮಾನ್ಯ ಕೀವರ್ಡ್ ಹುಡುಕಾಟದೊಂದಿಗೆ ಸಂಯೋಜಿಸುವುದು; ಉತ್ಪನ್ನ ಕೋಡ್‌ಗಳಂತಹ ನಿಖರ ಪದಗಳಿಗೆ ಸಹಾಯ ಮಾಡುತ್ತದೆ.
ಸಂದರ್ಭ ವಿಂಡೋ (Context window)ಒಂದು ವಿನಂತಿಯಲ್ಲಿ ಮಾದರಿ ತೆಗೆದುಕೊಳ್ಳಬಹುದಾದ ಗರಿಷ್ಠ ಪಠ್ಯ.
ಆಧಾರ / ಉಲ್ಲೇಖಗಳುಉತ್ತರವನ್ನು ನಿರ್ದಿಷ್ಟ ಹಿಂಪಡೆದ ಮೂಲಗಳೊಂದಿಗೆ ಜೋಡಿಸಿ ತೋರಿಸುವುದು.

ಸಾಮಾನ್ಯ ತಪ್ಪು ಕಲ್ಪನೆಗಳು

  • “RAG ಮಾದರಿಗೆ ನನ್ನ ಡೇಟಾದ ಮೇಲೆ ತರಬೇತಿ ನೀಡುತ್ತದೆ.” ಇಲ್ಲ. ಮಾದರಿ ಬದಲಾಗುವುದಿಲ್ಲ; ಪ್ರಶ್ನೆ ಕೇಳಿದಾಗ ಹೆಚ್ಚುವರಿ ಪಠ್ಯವನ್ನು ಓದುತ್ತದೆ ಅಷ್ಟೇ.
  • “RAG ಎಂದರೆ ಭ್ರಮೆಗಳೇ ಇಲ್ಲ.” ಇದರರ್ಥ ಕಡಿಮೆ. ಹಿಂಪಡೆಯುವಿಕೆ ಸರಿಯಾದ ತುಂಡನ್ನು ತಪ್ಪಿಸಿದರೆ, ಅಥವಾ ಉತ್ತರ ದಾಖಲೆಗಳಲ್ಲಿ ಇಲ್ಲದಿದ್ದರೆ, ಮಾದರಿ ಇನ್ನೂ ಊಹಿಸಬಹುದು. “ನನಗೆ ತಿಳಿಯದು” ಎಂದು ಹೇಳುವಂತೆ ಸೂಚಿಸಿ, ಮತ್ತು ನಿಮಗೆ ಉತ್ತರ ತಿಳಿದಿರುವ ಪ್ರಶ್ನೆಗಳೊಂದಿಗೆ ಪರೀಕ್ಷಿಸಿ.
  • “ನನಗೆ ವಿಶೇಷ ವೆಕ್ಟರ್ ಡೇಟಾಬೇಸ್ ಬೇಕು.” ಹೆಚ್ಚಾಗಿ ಬೇಕಿಲ್ಲ. ಸಣ್ಣ ಪ್ರಮಾಣದ ಡೇಟಾಕ್ಕೆ, ನೀವು ಈಗಾಗಲೇ ಹೊಂದಿರುವ ಡೇಟಾಬೇಸ್‌ಗೆ ವೆಕ್ಟರ್ ವಿಸ್ತರಣೆ, ಅಥವಾ ಸರಳ ಕೀವರ್ಡ್ ಹುಡುಕಾಟವೂ ಸಾಕಾಗಬಹುದು.
  • “ದೊಡ್ಡ ತುಂಡುಗಳು ಉತ್ತಮ.” ತುಂಬಾ ದೊಡ್ಡದಾದರೆ ಅಪ್ರಸ್ತುತ ಪಠ್ಯ ಹೆಚ್ಚು ಹೋಗುತ್ತದೆ (ಹೆಚ್ಚು ವೆಚ್ಚ, ಗೊಂದಲ); ತುಂಬಾ ಚಿಕ್ಕದಾದರೆ ತುಂಡು ತನ್ನ ಅರ್ಥ ನೀಡುವ ಸಂದರ್ಭವನ್ನು ಕಳೆದುಕೊಳ್ಳುತ್ತದೆ. ಹೊಂದಿಸಬೇಕಾಗುತ್ತದೆ.
  • “ಎಲ್ಲವನ್ನೂ ಅಪ್‌ಲೋಡ್ ಮಾಡಿ.” ಹಳೆಯ, ನಕಲು ಅಥವಾ ವಿರೋಧಾತ್ಮಕ ದಾಖಲೆಗಳು ವಿರೋಧಾತ್ಮಕ ಉತ್ತರಗಳಿಗೆ ಕಾರಣವಾಗುತ್ತವೆ. ಮೂಲ ವಸ್ತುವನ್ನು ಸ್ವಚ್ಛಗೊಳಿಸುವುದೇ ಸಾಮಾನ್ಯವಾಗಿ ದೊಡ್ಡ ಸುಧಾರಣೆ.
  • “ಯಾರಾದರೂ ಯಾವುದೇ ದಾಖಲೆಯನ್ನು ನೋಡಬಹುದು.” ನೀವು ಹಾಗೆ ನಿರ್ಮಿಸಿದರೆ ಮಾತ್ರ. ಕೆಲವು ದಾಖಲೆಗಳು ಕೆಲವು ಬಳಕೆದಾರರಿಗೆ ಖಾಸಗಿಯಾಗಿದ್ದರೆ, ಹುಡುಕಾಟವೇ ಕೇಳುವವರ ಆಧಾರದ ಮೇಲೆ ಫಿಲ್ಟರ್ ಮಾಡಬೇಕು — ಇಲ್ಲದಿದ್ದರೆ ಸಹಾಯಕ ಒಬ್ಬ ಗ್ರಾಹಕರ ಡೇಟಾವನ್ನು ಇನ್ನೊಬ್ಬರಿಗೆ ಉಲ್ಲೇಖಿಸಬಹುದು.

ಇದರ ವೆಚ್ಚ

RAG ವೈಶಿಷ್ಟ್ಯಕ್ಕೆ ಸಾಮಾನ್ಯವಾಗಿ ಮೂರು ನಿರಂತರ ವೆಚ್ಚಗಳಿರುತ್ತವೆ: ದಾಖಲೆಗಳನ್ನು ಎಂಬೆಡ್ ಮಾಡುವುದು (ಸಣ್ಣ, ಹೆಚ್ಚಾಗಿ ಒಮ್ಮೆ ಮಾತ್ರ), ಪ್ರತಿ ಪ್ರಶ್ನೆಯನ್ನು ಎಂಬೆಡ್ ಮಾಡುವುದು (ಅತಿ ಚಿಕ್ಕದು), ಮತ್ತು ಭಾಷಾ ಮಾದರಿ ಕರೆ (ಮುಖ್ಯ ವೆಚ್ಚ, ನೀವು ಕಳುಹಿಸುವ ತುಂಡುಗಳ ಸಂಖ್ಯೆಯೊಂದಿಗೆ ಬೆಳೆಯುತ್ತದೆ). ಜೊತೆಗೆ ನಿಮ್ಮ ಡೇಟಾಬೇಸ್ ನಲ್ಲಿ ಸಂಗ್ರಹಣೆ. ನಿಮ್ಮ AI ಒದಗಿಸುವವರು ಇವುಗಳನ್ನು ನಿಮ್ಮ ಸ್ವಂತ ಖಾತೆಗೆ ಬಿಲ್ ಮಾಡುತ್ತಾರೆ, ಆದ್ದರಿಂದ ಅಲ್ಲಿ ಖರ್ಚು ಮಿತಿ ಹೊಂದಿಸಿ.

ನಿಮ್ಮ AI ಬಿಲ್ಡರ್‌ನಿಂದ ಏನು ಕೇಳಬೇಕು

  • “RAG ನಿರ್ಮಿಸುವ ಮೊದಲು ಪರಿಶೀಲಿಸಿ: ನಮ್ಮ ವಿಷಯ ಪ್ರಾಂಪ್ಟ್‌ನಲ್ಲಿ ನೇರವಾಗಿ ಸೇರಿಸಲು ಸಾಕಷ್ಟು ಚಿಕ್ಕದೇ?”
  • “ಸಹಾಯ ಲೇಖನಗಳನ್ನು ಕೆಲವು ಪ್ಯಾರಾಗಳ ತುಂಡುಗಳಾಗಿ ವಿಭಜಿಸಿ, ಪ್ರತಿ ತುಂಡಿನ ಶೀರ್ಷಿಕೆ ಮತ್ತು ಮೂಲ ಲಿಂಕ್ ಇರಿಸಿ, ಎಂಬೆಡಿಂಗ್‌ಗಳನ್ನು ನಮ್ಮ ಡೇಟಾಬೇಸ್‌ನಲ್ಲಿ ಸಂಗ್ರಹಿಸಿ.”
  • “ಹೈಬ್ರಿಡ್ ಹುಡುಕಾಟ ಬಳಸಿ — ಅರ್ಥ ಆಧಾರಿತ ಮತ್ತು ಕೀವರ್ಡ್, ಇದರಿಂದ ಉತ್ಪನ್ನ ಕೋಡ್‌ಗಳು ಹೊಂದಿಕೆಯಾಗುತ್ತವೆ.”
  • “ಮಾದರಿಗೆ ಹಿಂಪಡೆದ ಮೂಲಗಳಿಂದ ಮಾತ್ರ ಉತ್ತರಿಸಲು, ತಿಳಿಯದಿದ್ದಾಗ ಹೇಳಲು ಮತ್ತು ಪ್ರತಿ ಉತ್ತರದ ಕೆಳಗೆ ಮೂಲಗಳನ್ನು ತೋರಿಸಲು ಹೇಳಿ.”
  • “ಬಳಕೆದಾರರು ನೋಡಲು ಅನುಮತಿ ಇರುವ ದಾಖಲೆಗಳನ್ನು ಮಾತ್ರ ಹುಡುಕಿ.”
  • “ದಾಖಲೆ ಸಂಪಾದಿಸಿದಾಗಲೆಲ್ಲ ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಮರು-ಎಂಬೆಡ್ ಮಾಡಿ.”
  • “AI ಒದಗಿಸುವವರ ಕೀ ಸರ್ವರ್‌ನಲ್ಲಿ ರಹಸ್ಯವಾಗಿ ಇರಿಸಿ, ಬ್ರೌಸರ್‌ನಲ್ಲಿ ಎಂದಿಗೂ ಬೇಡ.”
  • “ಪ್ರತಿ ಪ್ರಶ್ನೆ, ಹಿಂಪಡೆದ ತುಂಡುಗಳು ಮತ್ತು ಉತ್ತರವನ್ನು ದಾಖಲಿಸಿ, ಇದರಿಂದ ಕೆಟ್ಟ ಉತ್ತರಗಳನ್ನು ಪರಿಶೀಲಿಸಬಹುದು.”

Mythex ನಲ್ಲಿ RAG

Mythex ರೆಡಿಮೇಡ್ ನಾಲೆಜ್-ಬೇಸ್ ಅಥವಾ RAG ಉತ್ಪನ್ನವನ್ನು ಒಳಗೊಂಡಿಲ್ಲ. ಅದು ಮಾಡುವುದೇನೆಂದರೆ, ನಿಮ್ಮ ಆ್ಯಪ್ ಒಳಗೆ ಅದಕ್ಕಾಗಿ ಕೋಡ್ ಬರೆಯುವುದು: ನೀವು ನಿಮ್ಮ ದಾಖಲೆಗಳನ್ನು ಮತ್ತು ನಿಮ್ಮ ಸ್ವಂತ AI ಒದಗಿಸುವವರ ಕೀಯನ್ನು ತನ್ನಿರಿ, ಅದನ್ನು ಪ್ರಾಜೆಕ್ಟ್ ರಹಸ್ಯ ಆಗಿ ಸಂಗ್ರಹಿಸಲಾಗುತ್ತದೆ, ಮತ್ತು ಏಜೆಂಟ್ ಹಿಂಪಡೆಯುವಿಕೆ ಮತ್ತು ಚಾಟ್ ಭಾಗಗಳನ್ನು ನಿರ್ಮಿಸುತ್ತದೆ, ಸಂಗ್ರಹಣೆಗಾಗಿ ಪ್ರಾಜೆಕ್ಟ್‌ನ Postgres ಡೇಟಾಬೇಸ್ ಬಳಸುತ್ತದೆ. ಒದಗಿಸುವವರ ಬಳಕೆಯು ನಿಮ್ಮ ಒದಗಿಸುವವರ ಖಾತೆಗೆ ಬಿಲ್ ಆಗುತ್ತದೆ, Mythex ಕ್ರೆಡಿಟ್‌ಗಳಿಗೆ ಅಲ್ಲ. ಡಾಕ್ಸ್ ಒಂದು ಸರಳ AI ವೈಶಿಷ್ಟ್ಯದಿಂದ ಆರಂಭಿಸಿ, ಅದು ಕೆಲಸ ಮಾಡಿದ ನಂತರ RAG ಸೇರಿಸಲು ಸೂಚಿಸುತ್ತದೆ — ನೋಡಿ AI ಆ್ಯಪ್ ನಿರ್ಮಿಸುವುದು, ಮತ್ತು ನಮ್ಮ ಮಾರ್ಗದರ್ಶಿಗಳು AI ಚಾಟ್‌ಬಾಟ್ ಆ್ಯಪ್ ನಿರ್ಮಿಸುವುದು ಮತ್ತು ಆ್ಯಪ್‌ಗಳಿಗೆ AI ವೈಶಿಷ್ಟ್ಯಗಳನ್ನು ಸೇರಿಸುವುದು.

ಪ್ರಶ್ನೆಗಳು

ಸರಳವಾಗಿ ಹೇಳುವುದಾದರೆ RAG ಎಂದರೇನು?

RAG (retrieval-augmented generation) ಎಂದರೆ AI ಮಾದರಿ ನಿಮ್ಮ ಸ್ವಂತ ಮಾಹಿತಿಯಿಂದ ಉತ್ತರಿಸುವಂತೆ ಮಾಡುವ ವಿಧಾನ. ಮಾದರಿ ಉತ್ತರಿಸುವ ಮೊದಲು, ನಿಮ್ಮ ಆ್ಯಪ್ ನಿಮ್ಮ ದಾಖಲೆಗಳಲ್ಲಿ ಪ್ರಶ್ನೆಗೆ ಹೆಚ್ಚು ಸಂಬಂಧಿತ ಭಾಗಗಳನ್ನು ಹುಡುಕಿ ಪ್ರಾಂಪ್ಟ್‌ನಲ್ಲಿ ಸೇರಿಸುತ್ತದೆ. ಹೀಗಾಗಿ ಉತ್ತರ ತರಬೇತಿಯ ಸಮಯದಲ್ಲಿ ಕಲಿತದ್ದರ ಮೇಲೆ ಮಾತ್ರವಲ್ಲ, ಆ ಪಠ್ಯದ ಮೇಲೆ ಆಧರಿತವಾಗಿರುತ್ತದೆ.

RAG ನಿಮ್ಮ ಡೇಟಾದ ಮೇಲೆ AI ಅನ್ನು ತರಬೇತಿ ಮಾಡುತ್ತದೆಯೇ?

ಇಲ್ಲ. RAG ಮಾದರಿಯನ್ನು ಯಾವುದೇ ರೀತಿಯಲ್ಲಿ ಬದಲಿಸುವುದಿಲ್ಲ. ಪ್ರಶ್ನೆ ಕೇಳಿದಾಗ ಸಂಬಂಧಿತ ಪಠ್ಯವನ್ನು ಹುಡುಕಿ ಪ್ರಶ್ನೆಯೊಂದಿಗೆ ಮಾದರಿಗೆ ನೀಡುತ್ತದೆ. ಒಂದು ದಾಖಲೆ ಬದಲಾದರೆ, ಮುಂದಿನ ಉತ್ತರ ತಕ್ಷಣ ಹೊಸ ಆವೃತ್ತಿಯನ್ನು ಬಳಸಬಹುದು.

RAG ಮತ್ತು ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಒಂದೇ ಆ?

ಅಲ್ಲ. ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಉದಾಹರಣೆಗಳ ಮೇಲೆ ಮಾದರಿಗೆ ಹೆಚ್ಚುವರಿ ತರಬೇತಿ ನೀಡಿ ಅದರ ವರ್ತನೆಯನ್ನು ಬದಲಿಸುತ್ತದೆ; ಇದು ನಿಧಾನ ಮತ್ತು ಶೈಲಿ ಅಥವಾ ಸ್ವರೂಪಕ್ಕೆ ಉತ್ತಮ. RAG ಪ್ರಶ್ನೆ ಕೇಳಿದ ಕ್ಷಣದಲ್ಲಿ ಮಾದರಿಗೆ ಓದಲು ಸಂಗತಿಗಳನ್ನು ನೀಡುತ್ತದೆ; ಬದಲಾಗುವ ಅಥವಾ ನಿಖರವಾಗಿ ಉಲ್ಲೇಖಿಸಬೇಕಾದ ಮಾಹಿತಿಗೆ ಇದು ಉತ್ತಮ.

RAG AI ಭ್ರಮೆಗಳನ್ನು (hallucinations) ನಿಲ್ಲಿಸುತ್ತದೆಯೇ?

ಅದು ಅವುಗಳನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ, ಆದರೆ ಸಂಪೂರ್ಣವಾಗಿ ತೆಗೆದುಹಾಕುವುದಿಲ್ಲ. ಹುಡುಕಾಟ ತಪ್ಪಾದ ಭಾಗಗಳನ್ನು ಕಂಡುಕೊಂಡರೆ, ಅಥವಾ ಉತ್ತರ ನಿಮ್ಮ ದಾಖಲೆಗಳಲ್ಲಿ ಇಲ್ಲದಿದ್ದರೆ, ಮಾದರಿ ಇನ್ನೂ ಊಹಿಸಬಹುದು. ಉತ್ತಮ RAG ಆ್ಯಪ್‌ಗಳು ತಿಳಿಯದಾಗ ಹಾಗೆ ಹೇಳುವಂತೆ ಮಾದರಿಗೆ ಸೂಚಿಸುತ್ತವೆ ಮತ್ತು ಬಳಸಿದ ಮೂಲಗಳನ್ನು ತೋರಿಸುತ್ತವೆ.

Mythex · Pricing · AI ನೊಂದಿಗೆ ಏನನ್ನಾದರೂ ನಿರ್ಮಿಸಿ · ವೆಬ್‌ಸೈಟ್ ಮತ್ತು ಆ್ಯಪ್ ಟೆಂಪ್ಲೇಟ್‌ಗಳು · Mythex ಹೋಲಿಕೆ · AI ಆ್ಯಪ್ ನಿರ್ಮಾಣ ಗ್ಲಾಸರಿ · ಉಚಿತ AI ಆ್ಯಪ್ ನಿರ್ಮಾಣ ಉಪಕರಣಗಳು · English

English አማርኛ العربية Български বাংলা Bosanski Català Čeština Dansk Deutsch Ελληνικά Español Español (España) Eesti فارسی Suomi Français Français (Canada) ગુજરાતી हिन्दी Hrvatski Magyar Հայերեն Bahasa Indonesia Íslenska Italiano 日本語 ქართული Қазақ тілі 한국어 Lietuvių Latviešu Македонски മലയാളം Монгол मराठी Bahasa Melayu မြန်မာ Norsk bokmål Nederlands ਪੰਜਾਬੀ Polski Português (Brasil) Português (Portugal) Română Русский Slovenčina Slovenščina Soomaali Shqip Srpski Svenska Kiswahili தமிழ் తెలుగు ไทย Tagalog Türkçe Українська اردو Tiếng Việt 简体中文 繁體中文(香港) 繁體中文(台灣)