ದೀರ್ಘ ಏಜೆಂಟ್ ಸುತ್ತುಗಳನ್ನು ಕಾಂಟೆಕ್ಸ್ಟ್ ವಿಂಡೋದೊಳಗೆ ಇಡುವುದು

ಮಾದರಿ ಒಂದೇ ಸಲ ಇಷ್ಟೇ ಓದಬಲ್ಲದು — ಅದರ ಕಾಂಟೆಕ್ಸ್ಟ್ ವಿಂಡೋ. Mythex ನ ಏಜೆಂಟ್ ದೀರ್ಘ ಕೆಲಸ ಮಾಡುತ್ತದೆ: ಹಲವು ಫೈಲ್‌ಗಳನ್ನು ಓದುವುದು, ಆದೇಶಗಳನ್ನು ಚಲಾಯಿಸುವುದು, ಸೀಮಿತ ಕೆಲಸಗಳನ್ನು ಉಪ-ಏಜೆಂಟ್‌ಗಳಿಗೆ ವಹಿಸುವುದು. ದೀರ್ಘ ಕೆಲಸ ಮುರಿದುಹೋಗುವ ಮೂರು ವಿಧಾನಗಳನ್ನು ನಾವು ಕಂಡುಕೊಂಡೆವು: ಉಪ-ಏಜೆಂಟ್‌ಗಳು ಬೆಳೆದು ಮಾದರಿ ಪ್ರತಿ ವಿನಂತಿಯನ್ನು ನಿರಾಕರಿಸುವವರೆಗೆ, ಒಬ್ಬ ಉಪ-ಏಜೆಂಟ್ ತನಗೆ ಜಾಗ ಮುಗಿದಿದೆ ಎಂದು ಭಾವಿಸಿ ಬೇಗ ನಿಲ್ಲುವುದು, ಮತ್ತು ರಷ್ಯನ್, ಚೀನೀ ಹಾಗೂ ಜಪಾನೀ ಪಠ್ಯಕ್ಕೆ ನಮ್ಮ ಟೋಕನ್ ಎಣಿಕೆ ತೀವ್ರವಾಗಿ ತಪ್ಪಾಗಿದ್ದದ್ದು. ನಾವು ಏನು ಬದಲಾಯಿಸಿದೆವು ಎಂಬುದು ಇಲ್ಲಿದೆ.

ಕೆಲವು ಪದಗಳು ಮೊದಲು

• ಟೋಕನ್‌ಗಳು ಮಾದರಿ ಓದುವ ತುಣುಕುಗಳು. ಮಿತಿಗಳು ಮತ್ತು ವೆಚ್ಚಗಳನ್ನು ಅಕ್ಷರಗಳು ಅಥವಾ ಪದಗಳಲ್ಲಿ ಅಲ್ಲ, ಟೋಕನ್‌ಗಳಲ್ಲಿ ಎಣಿಸಲಾಗುತ್ತದೆ.
• ಕಾಂಟೆಕ್ಸ್ಟ್ ವಿಂಡೋ ಎಂದರೆ ಒಂದು ವಿನಂತಿಯಲ್ಲಿ ಮಾದರಿ ಓದಬಲ್ಲ ಗರಿಷ್ಠ ಪ್ರಮಾಣ. ವೆಚ್ಚ ಮತ್ತು ವೇಗ ಸಮಂಜಸವಾಗಿರಲು ನಾವು ಪ್ರತಿ ವಿನಂತಿಗೆ ನಮ್ಮದೇ ಕಡಿಮೆ ಬಜೆಟ್ ಅನ್ನೂ ಹೊಂದಿಸುತ್ತೇವೆ.
• ಟೂಲ್ ಫಲಿತಾಂಶಗಳು ಎಂದರೆ ಏಜೆಂಟ್ ತನ್ನ ಟೂಲ್‌ಗಳಿಂದ ಮರಳಿ ಪಡೆಯುವುದು: ಓದಿದ ಫೈಲ್‌ನ ವಿಷಯ, ಚಲಾಯಿಸಿದ ಆದೇಶದ ಔಟ್‌ಪುಟ್. ದೀರ್ಘ ಕೆಲಸದಲ್ಲಿ, ಕಳುಹಿಸುವ ಬಹುಪಾಲು ಇವೇ ಆಗಿರುತ್ತವೆ.
• ಉಪ-ಏಜೆಂಟ್ ಎಂದರೆ ಮುಖ್ಯ ಏಜೆಂಟ್ ಸ್ವಯಂಪೂರ್ಣ ಕೆಲಸಕ್ಕಾಗಿ ಪ್ರಾರಂಭಿಸುವ ಸಹಾಯಕ, ಉದಾಹರಣೆಗೆ "ಈ ಅಧ್ಯಾಯಗಳನ್ನು ನೋಟ್‌ಗಳೊಂದಿಗೆ ಪರಿಶೀಲಿಸು". ಅದಕ್ಕೆ ಒಂದೇ ಸೂಚನೆ ಸಿಗುತ್ತದೆ, ನಂತರ ಅದು ಸ್ವಂತವಾಗಿ ಹಲವು ಟೂಲ್ ಕರೆಗಳ ಮೂಲಕ ಕೆಲಸ ಮಾಡುತ್ತದೆ.

ಸಮಸ್ಯೆ 1: ಉಪ-ಏಜೆಂಟ್‌ಗಳು ಮಾದರಿ ನಿರಾಕರಿಸುವವರೆಗೆ ಬೆಳೆದವು

ಪ್ರತಿ ಹೆಜ್ಜೆಯಲ್ಲಿ, ಏಜೆಂಟ್ ಇಲ್ಲಿಯವರೆಗಿನ ಸಂಭಾಷಣೆಯನ್ನು ಮಾದರಿಗೆ ಕಳುಹಿಸುತ್ತದೆ. ಅದು ತುಂಬಾ ದೊಡ್ಡದಾದಾಗ, ನಮ್ಮ ಕೋಡ್ ಅದನ್ನು ಕತ್ತರಿಸುತ್ತಿತ್ತು — ಆದರೆ ಬಳಕೆದಾರ ಸಂದೇಶದ ಆರಂಭದಲ್ಲಿ ಮಾತ್ರ, ಟೂಲ್ ಕರೆ ಮತ್ತು ಅದರ ಫಲಿತಾಂಶ ಎಂದಿಗೂ ಬೇರ್ಪಡದಂತೆ. ಅದು ಮೊದಲ ಸಂದೇಶವನ್ನು ಉಳಿಸಿತ್ತು, ಹಿಂದಿನ ಸಂಭಾಷಣೆ ಕತ್ತರಿಸಲಾಗಿದೆ ಎಂಬ ಟಿಪ್ಪಣಿಯನ್ನು ಸೇರಿಸಿತ್ತು, ಮತ್ತು ಹೊಸ ಪೂರ್ಣ ಸುತ್ತುಗಳನ್ನು ಅಳವಡಿಸುವಷ್ಟು ಉಳಿಸಿತ್ತು.

ಒಬ್ಬ ಉಪ-ಏಜೆಂಟ್‌ಗೆ ನಿಖರವಾಗಿ ಒಂದೇ ಬಳಕೆದಾರ ಸಂದೇಶವಿರುತ್ತದೆ: ಅದರ ಸೂಚನೆ. ಅಲ್ಲಿ ಕತ್ತರಿಸಲು ಜಾಗವೇ ಇರಲಿಲ್ಲ. ಆದ್ದರಿಂದ ಅದು ಪ್ರತಿ ಹೆಜ್ಜೆಯಲ್ಲೂ ತನ್ನ ಸಂಪೂರ್ಣ ಇತಿಹಾಸವನ್ನು ಕಳುಹಿಸುತ್ತಿತ್ತು, ಪ್ರತಿ ಸಲ ಬೆಳೆಯುತ್ತ, ವಿನಂತಿ ಮಾದರಿ ಒಪ್ಪುವ ಗಾತ್ರಕ್ಕಿಂತ ದೊಡ್ಡದಾಗುವವರೆಗೆ — ಸುಮಾರು ಒಂದು ಮಿಲಿಯನ್ ಟೋಕನ್‌ಗಳು. 8 ಇಂತಹ ಉಪ-ಏಜೆಂಟ್‌ಗಳ ಪರೀಕ್ಷೆಯಲ್ಲಿ, ಎಲ್ಲಾ 8 ಅನ್ನೂ ನಿರಾಕರಿಸಲಾಯಿತು.

ಪರಿಹಾರ: ಹಳೆಯ ಟೂಲ್ ಫಲಿತಾಂಶಗಳನ್ನು ಮೊದಲು ತೆರವುಗೊಳಿಸಿ

ಈಗ ವಿನಂತಿಗಳು ಮೂರು ಹಂತಗಳಲ್ಲಿ ಬಜೆಟ್‌ಗೆ ಹೊಂದಿಕೊಳ್ಳುತ್ತವೆ, ಹಿಂದಿನದು ಸಾಕಾಗದಿದ್ದರೆ ಮಾತ್ರ ಮುಂದಿನದನ್ನು ಪ್ರಯತ್ನಿಸಲಾಗುತ್ತದೆ:

1. ಅತ್ಯಂತ ಹಳೆಯ ಟೂಲ್ ಫಲಿತಾಂಶಗಳನ್ನು ತೆರವುಗೊಳಿಸಿ. ಅವುಗಳ ವಿಷಯವನ್ನು ಒಂದು ಚಿಕ್ಕ ಟಿಪ್ಪಣಿಯೊಂದಿಗೆ ಬದಲಿಸಲಾಗುತ್ತದೆ: ಮಾದರಿಯ ಕಾಂಟೆಕ್ಸ್ಟ್‌ನೊಳಗೆ ಇರಿಸಲು ಫಲಿತಾಂಶವನ್ನು ತೆರವುಗೊಳಿಸಲಾಗಿದೆ, ಮತ್ತು ಬೇಕಾದರೆ ಏಜೆಂಟ್ ಆ ಟೂಲ್ ಅನ್ನು ಮತ್ತೆ ಚಲಾಯಿಸಬಹುದು. ಒಂದು ಗಂಟೆಯ ಹಿಂದೆ ಓದಿದ ಫೈಲ್ ಸಾಮಾನ್ಯವಾಗಿ ವಿನಂತಿಯಲ್ಲಿ ಅತಿ ದೊಡ್ಡದಾದ ಮತ್ತು ಕಡಿಮೆ ಉಪಯುಕ್ತವಾದದ್ದು, ಮತ್ತು ಫೈಲ್ ಇನ್ನೂ ಇದೆ, ಮತ್ತೆ ಓದಬಹುದು. ಇತ್ತೀಚಿನ ಫಲಿತಾಂಶಗಳು ಪೂರ್ಣವಾಗಿ ಉಳಿಯುತ್ತವೆ.
2. ಪೂರ್ಣ ಬಳಕೆದಾರ ಸುತ್ತುಗಳನ್ನು ಉಳಿಸಿ. ಮೊದಲಿನಂತೆಯೇ: ಮೊದಲ ಸಂದೇಶ, ಒಂದು ಟಿಪ್ಪಣಿ, ಮತ್ತು ಹೊಂದುವಷ್ಟು ಇತ್ತೀಚಿನ ಪೂರ್ಣ ಸುತ್ತುಗಳು.
3. ಪೂರ್ಣ ಟೂಲ್ ಸುತ್ತುಗಳನ್ನು ಉಳಿಸಿ. ಒಂದು ದೀರ್ಘ ಸುತ್ತಿನೊಳಗೆ — ಉಪ-ಏಜೆಂಟ್ ಹೊಂದಿರುವ ಏಕೈಕ ರೀತಿಯದು — ಮೊದಲ ಸಂದೇಶ, ಟಿಪ್ಪಣಿ, ಮತ್ತು "ಟೂಲ್ ಕರೆ ಮಾಡಿ, ಅದರ ಫಲಿತಾಂಶ ಪಡೆಯಿರಿ" ಎಂಬ ಹೊಂದುವಷ್ಟು ಇತ್ತೀಚಿನ ಪೂರ್ಣ ಸುತ್ತುಗಳನ್ನು ಉಳಿಸಿ.

ಈ ಬದಲಾವಣೆ ಕಳುಹಿಸಲಾಗುವ ವಿಷಯದ ರೂಪವನ್ನು ಮಾತ್ರ ನಿರ್ಧರಿಸುತ್ತದೆ. ಏಜೆಂಟ್‌ನ ಉಳಿಸಿದ ಇತಿಹಾಸದಲ್ಲಿ ಎಲ್ಲವೂ ಉಳಿಯುತ್ತದೆ. ಅದೇ ಪರೀಕ್ಷೆಯಲ್ಲಿ, 8 ರಲ್ಲಿ 0 ನಿರಾಕರಿಸಲ್ಪಟ್ಟವು ಮತ್ತು ಎಲ್ಲಾ 8 ಮುಗಿದವು.

ಬ್ಯಾಚ್‌ಗಳಲ್ಲಿ ತೆರವುಗೊಳಿಸಿ, ಕ್ಯಾಶಿಂಗ್ ಕೆಲಸ ಮಾಡುತ್ತಲೇ ಇರಲಿ

ಮಾದರಿ ಒದಗಿಸುವವರು ವಿನಂತಿಯ ಆರಂಭವನ್ನು, ಅದು ಹಿಂದಿನದಕ್ಕೆ ಸರಿಯಾಗಿ ಒಂದೇ ಆಗಿದ್ದರೆ, ಮರುಬಳಕೆ ಮಾಡಬಹುದು — ಇದು ಪ್ರಿಫಿಕ್ಸ್ ಕ್ಯಾಶ್ ಆಗಿದೆ. ಪ್ರತಿ ಕರೆಯಲ್ಲೂ ಇನ್ನೊಂದು ಫಲಿತಾಂಶವನ್ನು ತೆರವುಗೊಳಿಸಿದರೆ, ವಿನಂತಿಯ ಆರಂಭ ಪ್ರತಿ ಸಲ ಬದಲಾಗುತ್ತದೆ ಮತ್ತು ಕ್ಯಾಶ್ ಎಂದಿಗೂ ಸಹಾಯ ಮಾಡುವುದಿಲ್ಲ.

ಆದ್ದರಿಂದ ಅತ್ಯಂತ ಹಳೆಯ ಫಲಿತಾಂಶಗಳನ್ನು ಒಮ್ಮೆಗೆ ಒಂದಲ್ಲ, ನಾಲ್ಕರ ಬ್ಯಾಚ್‌ಗಳಲ್ಲಿ ತೆರವುಗೊಳಿಸಲಾಗುತ್ತದೆ. ತೆರವುಗೊಳಿಸಿದ ಭಾಗ ಹಲವು ಕರೆಗಳಲ್ಲಿ ಒಂದೇ ಆಗಿ ಉಳಿಯುತ್ತದೆ. ಟಿಪ್ಪಣಿಗಿಂತ ಅಷ್ಟು ದೊಡ್ಡದಲ್ಲದ ಫಲಿತಾಂಶವನ್ನು ಬಿಡಲಾಗುತ್ತದೆ: ಅದನ್ನು ತೆರವುಗೊಳಿಸಿದರೆ ಕಡಿಮೆ ಉಳಿತಾಯವಾಗಿ ವಿನಂತಿಯ ಆರಂಭ ಬದಲಾಗುತ್ತದೆ. ಎಷ್ಟು ಪೂರ್ಣವಾಗಿ ಉಳಿಯುತ್ತದೆ ಎಂಬುದನ್ನು ಸಂಖ್ಯೆಯಿಂದಲ್ಲ, ಗಾತ್ರದಿಂದ ನಿರ್ಧರಿಸಲಾಗುತ್ತದೆ: ಬಜೆಟ್‌ನ ಕಾಲು ಭಾಗದಲ್ಲಿ ಹೊಂದುವ ಇತ್ತೀಚಿನ ಫಲಿತಾಂಶಗಳು ಪೂರ್ಣವಾಗಿ ಉಳಿಯುತ್ತವೆ, ಮತ್ತು ಕನಿಷ್ಠ ಒಂದು ಯಾವಾಗಲೂ ಉಳಿಯುತ್ತದೆ. ಹಿಂದಿನ ಆವೃತ್ತಿ ಸ್ಥಿರವಾಗಿ ಆರು ಪೂರ್ಣವಾಗಿ ಉಳಿಸುತ್ತಿತ್ತು, ಇದು ಕಡಿಮೆ ಆದೇಶದ ಔಟ್‌ಪುಟ್‌ಗೆ ಸರಿಯಾಗಿತ್ತು, ಆದರೆ ದೀರ್ಘ ಫೈಲ್ ಓದುವಿಕೆಗಳೊಂದಿಗೆ ಬಜೆಟ್‌ನ ಬಹುಪಾಲನ್ನು ಹಳೆಯ ಫಲಿತಾಂಶಗಳಿಗೆ ಬಿಟ್ಟಿತ್ತು.

ನಿರಾಕರಣೆಗಳು ಈಗ ಅದನ್ನು ಹೇಳುತ್ತವೆ

ಮಾದರಿ ಅಮಾನ್ಯವೆಂದು ತಿರಸ್ಕರಿಸುವ ವಿನಂತಿಯನ್ನು ಇನ್ನು ಮರುಪ್ರಯತ್ನಿಸಲಾಗುವುದಿಲ್ಲ; ಅದೇ ವಿನಂತಿಯನ್ನು ಮತ್ತೆ ಕಳುಹಿಸಿದರೆ ಅದೇ ಉತ್ತರ ಬರುತ್ತದೆ. ಸಂಭಾಷಣೆ ಮಾದರಿಗೆ ತುಂಬಾ ದೀರ್ಘವಾದರೆ, ವ್ಯಕ್ತಿಗೆ ಕಾಣಿಸುವುದು: "ಈ ಸಂಭಾಷಣೆ ಮಾದರಿಗೆ ಒಮ್ಮೆಗೇ ಓದಲು ತುಂಬಾ ದೀರ್ಘವಾಯಿತು. ಮುಂದಿನ ಹಂತಕ್ಕೆ ಹೊಸ ಚಾಟ್ ಪ್ರಾರಂಭಿಸಿ — ಇದುವರೆಗೆ ನಿರ್ಮಿಸಿದ್ದೆಲ್ಲವೂ ಉಳಿಯುತ್ತದೆ." ಇದು ವ್ಯಕ್ತಿ ಕ್ರಮ ಕೈಗೊಳ್ಳಬೇಕಾದ ವಿಷಯ, ಸೇವೆ ಸ್ಥಗಿತವಲ್ಲ, ಆದ್ದರಿಂದ ನಮಗೆ ಎಚ್ಚರಿಕೆ ಕಳುಹಿಸುವುದಿಲ್ಲ.

ಸಮಸ್ಯೆ 2: ಏಜೆಂಟ್ "ಜಾಗ ಉಳಿಸಲು" ನಿಲ್ಲಿಸಿತು

40 ದೀರ್ಘ ಅಧ್ಯಾಯಗಳನ್ನು ಓದಲು ಕೇಳಲ್ಪಟ್ಟ ಉಪ-ಏಜೆಂಟ್ 2 ರ ನಂತರ ನಿಲ್ಲಿಸಿತು, ಜಾಗ ಉಳಿಸಲು ಬಯಸುವುದಾಗಿ ಹೇಳಿತು. ಅದು 400,000 ಟೋಕನ್ ಬಜೆಟ್‌ನಲ್ಲಿ ಸುಮಾರು 100,000 ಟೋಕನ್‌ಗಳನ್ನು ಬಳಸಿತ್ತು.

ಹಳೆಯ ಫಲಿತಾಂಶಗಳನ್ನು ಈಗ ತೆರವುಗೊಳಿಸಲಾಗುವುದು ಎಂದು ಅದಕ್ಕೆ ತಿಳಿಯುವ ಮಾರ್ಗವಿರಲಿಲ್ಲ. ಆದ್ದರಿಂದ ನಾವು ಅದಕ್ಕೆ ಹೇಳಿದೆವು. ಏಜೆಂಟ್‌ನ ಸೂಚನೆಗಳು ಈಗ ಹೇಳುತ್ತವೆ: ಸಂಭಾಷಣೆ ಮಾದರಿ ತೆಗೆದುಕೊಳ್ಳಬಹುದಾದುದಕ್ಕಿಂತ ದೊಡ್ಡದಾದಾಗ, ಹಳೆಯ ಟೂಲ್ ಫಲಿತಾಂಶಗಳು ತೆರವುಗೊಳ್ಳುತ್ತವೆ ಮತ್ತು ಇತ್ತೀಚಿನವು ಪೂರ್ಣವಾಗಿ ಉಳಿಯುತ್ತವೆ — ಆದ್ದರಿಂದ ಜಾಗ ಉಳಿಸಲು ದೀರ್ಘ ಕೆಲಸವನ್ನು ನಿಲ್ಲಿಸಬೇಡಿ; ಮುಂದುವರಿಸಿ, ತೆರವುಗೊಂಡಿದ್ದು ಬೇಕಾದರೆ ಫೈಲ್ ಅನ್ನು ಮತ್ತೆ ಓದಿ.

ಮಾದರಿ ನೋಡಲಾಗದ ಪರಿಹಾರವು ಮಾದರಿಯ ದೃಷ್ಟಿಯಲ್ಲಿ ಪರಿಹಾರವಲ್ಲ. ಏಜೆಂಟ್ ನಂಬಿದರೆ ಮಾತ್ರ ಯಾಂತ್ರಿಕತೆ ಸಹಾಯ ಮಾಡುತ್ತದೆ.

ಸಮಸ್ಯೆ 3: ಎಲ್ಲವೂ ಇಂಗ್ಲಿಷ್ ಎಂಬಂತೆ ಟೋಕನ್‌ಗಳನ್ನು ಎಣಿಸುವುದು

ಟೋಕನೈಸರ್ ಚಲಾಯಿಸದೆ, ಅಕ್ಷರಗಳನ್ನು ನಾಲ್ಕರಿಂದ ಭಾಗಿಸುವ ಮೂಲಕ ಟೋಕನ್‌ಗಳನ್ನು ಅಂದಾಜಿಸುತ್ತಿದ್ದೆವು. ಇದು ಇಂಗ್ಲಿಷ್‌ಗೆ ಸಮಂಜಸವಾದ ಅಂದಾಜು. ಆದರೆ ಇತರ ಲಿಪಿಗಳಿಗೆ ಅಲ್ಲ: ರಷ್ಯನ್ ಸುಮಾರು 2.2 ಅಕ್ಷರಗಳಿಗೆ ಒಂದು ಟೋಕನ್, ಮತ್ತು ಚೀನೀ ಅಥವಾ ಜಪಾನೀ ಸುಮಾರು ಒಂದಕ್ಕೆ ಒಂದು.

ಆದ್ದರಿಂದ ರಷ್ಯನ್ ಅಧ್ಯಾಯಗಳನ್ನು ಓದುವ ಉಪ-ಏಜೆಂಟ್ ಸುಮಾರು 640,000 ಟೋಕನ್‌ಗಳ ವಿನಂತಿಯನ್ನು ಕಳುಹಿಸಿತು, ಆದರೆ ನಮ್ಮ ಅಂದಾಜು 400,000 ಬಜೆಟ್‌ಗಿಂತ ಕೆಳಗಿದೆ ಎಂದು ಹೇಳಿತ್ತು. ಆ ಅಂದಾಜು ವಿನಂತಿಯನ್ನು ಮಾದರಿಯ ಕಠಿಣ ಮಿತಿಗಿಂತ ಮೇಲೆ ತಳ್ಳಬಹುದಿತ್ತು ಕೂಡ.

ಅಂದಾಜು ಈಗ ಲಿಪಿಯ ಪ್ರಕಾರ ಎಣಿಸುತ್ತದೆ: ಸರಳ ASCII ಗೆ ನಾಲ್ಕು ಅಕ್ಷರಗಳಿಗೆ ಒಂದು ಟೋಕನ್, ಚೀನೀ, ಜಪಾನೀ ಮತ್ತು ಕೊರಿಯನ್ ಗೆ ಒಂದಕ್ಕೆ ಒಂದು, ಮತ್ತು ಉಳಿದೆಲ್ಲವೂ — ಸಿರಿಲಿಕ್, ಗ್ರೀಕ್, ಅರೇಬಿಕ್, ಉಚ್ಚಾರ ಅಕ್ಷರಗಳು, ಎಮೋಜಿ — ಎರಡಕ್ಕೆ ಒಂದು. ಇದು ಹೆಚ್ಚಿನದಕ್ಕೆ ತಪ್ಪಲು ಉದ್ದೇಶಿಸಲಾಗಿದೆ. ಒಂದು ರಷ್ಯನ್ ಅಧ್ಯಾಯದಲ್ಲಿ ಈಗ ಅದು 43,423 ಟೋಕನ್‌ಗಳನ್ನು ಅಂದಾಜಿಸುತ್ತದೆ, ಅಳತೆ ಮಾಡಿದ ಸುಮಾರು 44,600 ಕ್ಕೆ ವಿರುದ್ಧವಾಗಿ; ಮೊದಲು ಅದು 25,023 ಎಂದಿತ್ತು. ಸಂದೇಶ ಒಮ್ಮೆ ಬರೆದ ನಂತರ ಎಂದಿಗೂ ಬದಲಾಗುವುದಿಲ್ಲವಾದ್ದರಿಂದ, ಅದರ ಅಂದಾಜನ್ನು ಒಮ್ಮೆ ಲೆಕ್ಕ ಹಾಕಿ ನೆನಪಿಡಲಾಗುತ್ತದೆ, ಪ್ರತಿ ಹೆಜ್ಜೆಯಲ್ಲೂ ಮರುಲೆಕ್ಕ ಹಾಕುವುದಿಲ್ಲ.

ನಾವು ಇದರಿಂದ ಕಲಿತದ್ದು

• ಗಾತ್ರ ನಿಜವಾಗಿ ಎಲ್ಲಿದೆಯೋ ಅಲ್ಲಿ ಟ್ರಿಮ್ ಮಾಡಿ. ಏಜೆಂಟ್ ಕೆಲಸದಲ್ಲಿ, ಅದು ಟೂಲ್ ಫಲಿತಾಂಶಗಳು, ಬಳಕೆದಾರ ಸಂದೇಶಗಳಲ್ಲ.
• ಏಜೆಂಟ್‌ಗೆ ತನ್ನ ಸ್ವಂತ ಸುರಕ್ಷತಾ ಜಾಲಗಳ ಬಗ್ಗೆ ಹೇಳಿ. ಇಲ್ಲದಿದ್ದರೆ ಇನ್ನು ಅನ್ವಯವಾಗದ ಮಿತಿಗಳ ಸುತ್ತ ಯೋಜಿಸುತ್ತದೆ.
• "ಅಕ್ಷರಗಳು ÷ 4" ಇಂಗ್ಲಿಷ್ ಊಹೆ. ಬಹುಭಾಷಾ ಬಳಕೆದಾರರಿಗೆ ಟೋಕನ್ ಎಣಿಸುವ ಯಾವುದೇ ವಿಷಯವು ಲಿಪಿಯ ಪ್ರಕಾರ ಎಣಿಸಬೇಕು, ಅಥವಾ ನಿಜವಾದ ಟೋಕನೈಸರ್ ಬಳಸಬೇಕು.
• ಕ್ಯಾಶ್ ಬಗ್ಗೆ ಎಚ್ಚರವಿರಲಿ. ಪ್ರತಿ ಕರೆಯಲ್ಲೂ ಮುಂಭಾಗದಲ್ಲಿ ಬದಲಾಗುವ ವಿನಂತಿ ಹೆಚ್ಚು ವೆಚ್ಚ ಮಾಡುತ್ತದೆ ಮತ್ತು ನಿಧಾನವಾಗಿ ಓಡುತ್ತದೆ.

AI ಫೀಚರ್‌ಗಳನ್ನು ನಿಮ್ಮ ಸ್ವಂತ ಆ್ಯಪ್‌ಗೆ ಸೇರಿಸುತ್ತಿದ್ದರೆ, LLM ಎಂದರೇನು ಮತ್ತು LLM APIಗಳನ್ನು ಹೇಗೆ ಬಳಸುವುದು ಎಂಬ ನಮ್ಮ ಮಾರ್ಗದರ್ಶಿಗಳು ಕಾಂಟೆಕ್ಸ್ಟ್ ವಿಂಡೋ ಮತ್ತು ಟೋಕನ್‌ಗಳನ್ನು ಆರಂಭದಿಂದಲೇ ಒಳಗೊಳ್ಳುತ್ತವೆ. Mythex ನಲ್ಲಿ ಉಪ-ಏಜೆಂಟ್‌ಗಳು ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತವೆ ಎಂಬುದರ ಕುರಿತು ಹೆಚ್ಚಿನ ಮಾಹಿತಿ ಉಪ-ಏಜೆಂಟ್ ದಸ್ತಾವೇಜಿನಲ್ಲಿ ಇದೆ.