ರೇಟ್ ಲಿಮಿಟಿಂಗ್ ಎಂದರೇನು? ಆ್ಯಪ್ ನಿರ್ಮಾಣಕಾರರಿಗೆ ಸರಳ ಮಾರ್ಗದರ್ಶಿ
ರೇಟ್ ಲಿಮಿಟಿಂಗ್ ಎಂದರೆ ನಿರ್ದಿಷ್ಟ ಅವಧಿಯಲ್ಲಿ ಒಬ್ಬರು ಒಂದು ವ್ಯವಸ್ಥೆಗೆ ಎಷ್ಟು ವಿನಂತಿಗಳನ್ನು ಮಾಡಬಹುದು ಎಂಬುದನ್ನು ಮಿತಿಗೊಳಿಸುವ ನಿಯಮ — ಉದಾಹರಣೆಗೆ ನಿಮಿಷಕ್ಕೆ 5 ಲಾಗಿನ್ ಪ್ರಯತ್ನಗಳು, ಅಥವಾ ಗಂಟೆಗೆ 100 API ಕರೆಗಳು. ಮಿತಿ ತಲುಪಿದ ನಂತರ, ಅವಧಿ ಮರುಹೊಂದುವವರೆಗೆ ಮತ್ತಷ್ಟು ವಿನಂತಿಗಳನ್ನು ನಿರಾಕರಿಸಲಾಗುತ್ತದೆ (ಸಾಮಾನ್ಯವಾಗಿ 429 Too Many Requests ದೋಷ ಕೋಡ್‌ನೊಂದಿಗೆ). ಇದು ಆ್ಯಪ್‌ಗಳನ್ನು ದುರುಪಯೋಗದಿಂದ ರಕ್ಷಿಸುತ್ತದೆ, ಒಬ್ಬ ಭಾರೀ ಬಳಕೆದಾರ ಎಲ್ಲರಿಗೂ ನಿಧಾನ ಮಾಡುವುದನ್ನು ತಡೆಯುತ್ತದೆ, ಮತ್ತು ನಿಯಂತ್ರಣ ಮೀರಿದ ವೆಚ್ಚಗಳನ್ನು ನಿಲ್ಲಿಸುತ್ತದೆ.
ರೇಟ್ ಲಿಮಿಟಿಂಗ್ ಅನ್ನು ಎರಡು ಕಡೆಗಳಿಂದ ನೀವು ಎದುರಿಸುತ್ತೀರಿ: ನೀವು ಕರೆಯುವ ಸೇವೆಗಳು ನಿಮ್ಮನ್ನು ಮಿತಿಗೊಳಿಸುತ್ತವೆ, ಮತ್ತು ನಿಮ್ಮ ಸ್ವಂತ ಆ್ಯಪ್ ತನ್ನ ಬಳಕೆದಾರರನ್ನು ಮಿತಿಗೊಳಿಸಬೇಕು.
AI ಜೊತೆಗೆ ನಿರ್ಮಿಸುವಾಗ ರೇಟ್ ಲಿಮಿಟಿಂಗ್ ಏಕೆ ಮುಖ್ಯ
AI ನಿರ್ಮಿತ ಆ್ಯಪ್‌ಗಳು ಹೆಚ್ಚಾಗಿ ಪಾವತಿಸುವ ಸೇವೆಗಳಿಗೆ ಸಂಪರ್ಕಗೊಳ್ಳುತ್ತವೆ — AI ಮಾದರಿಗಳು, ಇಮೇಲ್, SMS, ನಕ್ಷೆಗಳು — ಮತ್ತು ಪ್ರತಿ ಕರೆಗೂ ಹಣ ತಗುಲುತ್ತದೆ. ಆದ್ದರಿಂದ ರೇಟ್ ಲಿಮಿಟಿಂಗ್ ಭದ್ರತಾ ಫೀಚರ್ ಮತ್ತು ಬಜೆಟ್ ಫೀಚರ್ ಎರಡೂ ಆಗಿದೆ.
- ವೆಚ್ಚ ನಿಯಂತ್ರಣ. ನಿಮ್ಮ ಆ್ಯಪ್‌ನಲ್ಲಿ “AI ಕೇಳಿ” ಪೆಟ್ಟಿಗೆ ಇದ್ದು ಮಿತಿ ಇಲ್ಲದಿದ್ದರೆ, ಒಂದು ಬಾಟ್ ರಾತ್ರಿಯಲ್ಲಿ ಸಾವಿರಾರು ವಿನಂತಿಗಳನ್ನು ಕಳುಹಿಸಬಹುದು. ಪ್ರತಿಯೊಂದಕ್ಕೂ ನೀವು ಪಾವತಿಸುತ್ತೀರಿ.
- ಭದ್ರತೆ. ಲಾಗಿನ್ ಫಾರ್ಮ್‌ನಲ್ಲಿ ಮಿತಿ ಇಲ್ಲದಿದ್ದರೆ, ದಾಳಿಕೋರ ಒಂದು ಖಾತೆಗೆ ಸಾವಿರಾರು ಪಾಸ್‌ವರ್ಡ್‌ಗಳನ್ನು ಪ್ರಯತ್ನಿಸಬಹುದು. ನಿಮಿಷಕ್ಕೆ ಕೆಲವು ಪ್ರಯತ್ನಗಳ ಮಿತಿ ಅದನ್ನು ಅಪ್ರಾಯೋಗಿಕವಾಗಿಸುತ್ತದೆ.
- ಆನ್‌ಲೈನ್‌ನಲ್ಲಿ ಉಳಿಯುವುದು. ಒಂದು ತಪ್ಪಾಗಿ ವರ್ತಿಸುವ ಸ್ಕ್ರಿಪ್ಟ್ — ಕೆಲವೊಮ್ಮೆ ನಿಮ್ಮದೇ ಕೋಡ್ ಲೂಪ್‌ನಲ್ಲಿ ಸಿಲುಕಿದ್ದರೂ — ನಿಮ್ಮ ಡೇಟಾಬೇಸ್ ಅನ್ನು ಓವರ್‌ಲೋಡ್ ಮಾಡಿ ಆ್ಯಪ್ ನಿಲ್ಲಿಸಬಹುದು.
- ಇತರ ಸೇವೆಗಳ ಮಿತಿಗಳನ್ನು ಗೌರವಿಸುವುದು. ನಿಮ್ಮ ಆ್ಯಪ್ ಹೊರಗಿನ API ಅನ್ನು ತುಂಬಾ ಬಾರಿ ಕರೆದರೆ, ನಿಮಗೇ 429 ದೋಷಗಳು ಬರುತ್ತವೆ, ಮತ್ತು ನಿಮ್ಮ ಬಳಕೆದಾರರಿಗೆ ಫೀಚರ್‌ಗಳು ಮುರಿಯುತ್ತವೆ.
AI ಬಿಲ್ಡರ್‌ಗಳು ನೀವು ಕೇಳಿದ್ದನ್ನು ನಿರ್ಮಿಸುತ್ತವೆ. ನೀವು ಮಿತಿಗಳ ಬಗ್ಗೆ ಹೇಳದಿದ್ದರೆ, ಅವು ಹೆಚ್ಚಾಗಿ ಬಿಟ್ಟುಬಿಡಲ್ಪಡುತ್ತವೆ.
ದೈನಂದಿನ ಉದಾಹರಣೆ
ಕಾಫಿ ಅಂಗಡಿಯ ಉಚಿತ ರೀಫಿಲ್ ನೀತಿಯನ್ನು ಯೋಚಿಸಿ: “ಪ್ರತಿ ಭೇಟಿಗೆ ಪ್ರತಿ ಗ್ರಾಹಕರಿಗೆ ಒಂದು ಉಚಿತ ರೀಫಿಲ್.”
- ಇದು ಯಾರನ್ನೂ ಕಾಫಿ ಆನಂದಿಸುವುದರಿಂದ ತಡೆಯುವುದಿಲ್ಲ.
- ಇದು ಒಬ್ಬ ವ್ಯಕ್ತಿ ದಿನವಿಡೀ ಕೌಂಟರ್‌ನಲ್ಲಿ ನಿಂತು ಇಡೀ ಕಚೇರಿಗೆ ಫ್ಲಾಸ್ಕ್ ತುಂಬಿಸುವುದನ್ನು ತಡೆಯುತ್ತದೆ.
- ನಾಲ್ಕನೇ ರೀಫಿಲ್ ಕೇಳಿದಾಗ, ಬ್ಯಾರಿಸ್ಟಾ ಸೌಜನ್ಯದಿಂದ “ಈಗ ಸಾಧ್ಯವಿಲ್ಲ” ಎನ್ನುತ್ತಾರೆ — ಅದೇ
429.
ಒಳ್ಳೆಯ ರೇಟ್ ಲಿಮಿಟ್ ಸಾಮಾನ್ಯ ಗ್ರಾಹಕರಿಗೆ ಅದೃಶ್ಯವಾಗಿರುತ್ತದೆ ಮತ್ತು ಅಸಾಮಾನ್ಯವಾದುದನ್ನು ಮಾಡುತ್ತಿರುವವರಿಗೆ ಮಾತ್ರ ಗಮನಕ್ಕೆ ಬರುತ್ತದೆ.
ರೇಟ್ ಲಿಮಿಟಿಂಗ್ ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ
ರೇಟ್ ಲಿಮಿಟರ್‌ಗೆ ಮೂರು ವಿಷಯಗಳು ಬೇಕು:
| ಭಾಗ | ಯಾವ ಪ್ರಶ್ನೆಗೆ ಉತ್ತರ | ಉದಾಹರಣೆಗಳು |
|---|---|---|
| ಯಾರು | ಯಾರ ವಿನಂತಿಗಳನ್ನು ಎಣಿಸಲಾಗುತ್ತಿದೆ? | ಪ್ರತಿ ಬಳಕೆದಾರ ಖಾತೆ, ಪ್ರತಿ IP ವಿಳಾಸ, ಪ್ರತಿ API ಕೀ |
| ಎಷ್ಟು | ಮಿತಿ ಎಷ್ಟು? | 5, 60, 1,000 ವಿನಂತಿಗಳು |
| ಯಾವ ಅವಧಿಗೆ | ಯಾವ ಅವಧಿಯಲ್ಲಿ? | ಪ್ರತಿ ಸೆಕೆಂಡ್, ನಿಮಿಷ, ಗಂಟೆ, ದಿನ |
ವಿನಂತಿ ಬಂದಾಗ, ಆ್ಯಪ್ ಆ “ಯಾರು” ಎಂಬುದರ ಎಣಿಕೆಯನ್ನು ಪರಿಶೀಲಿಸುತ್ತದೆ. ಮಿತಿಯೊಳಗಿದ್ದರೆ: ವಿನಂತಿ ಮುಂದೆ ಹೋಗುತ್ತದೆ ಮತ್ತು ಎಣಿಕೆ ಏರುತ್ತದೆ. ಮಿತಿ ಮೀರಿದರೆ: ವಿನಂತಿ ನಿರಾಕರಿಸಲ್ಪಡುತ್ತದೆ.
ಎಣಿಸುವ ಕೆಲವು ಸಾಮಾನ್ಯ ವಿಧಾನಗಳು:
| ವಿಧಾನ | ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ | ವ್ಯಾಪಾರ-ವಿನಿಮಯ |
|---|---|---|
| ಸ್ಥಿರ ವಿಂಡೋ | ಗಡಿಯಾರದ ಪ್ರಕಾರ ಎಣಿಕೆ ಮರುಹೊಂದುತ್ತದೆ — ಉದಾ. ಪ್ರತಿ ನಿಮಿಷದ ಆರಂಭದಲ್ಲಿ | ಸರಳ, ಆದರೆ ಎರಡು ವಿಂಡೋಗಳ ಗಡಿಯಲ್ಲಿ ಸ್ಫೋಟ ಅನುಮತಿಸುತ್ತದೆ |
| ಸ್ಲೈಡಿಂಗ್ ವಿಂಡೋ | ಈಗದಿಂದ ಕೊನೆಯ 60 ಸೆಕೆಂಡ್‌ಗಳನ್ನು ನೋಡುತ್ತದೆ | ಸುಗಮ, ಲೆಕ್ಕಾಚಾರಕ್ಕೆ ಸ್ವಲ್ಪ ಹೆಚ್ಚು ಕೆಲಸ |
| ಟೋಕನ್ ಬಕೆಟ್ | ಪ್ರತಿ ಬಳಕೆದಾರರಿಗೆ ಸ್ಥಿರ ದರದಲ್ಲಿ ತುಂಬುವ ಬಕೆಟ್ ಇದೆ; ಪ್ರತಿ ವಿನಂತಿ ಒಂದು ಟೋಕನ್ ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ | ಸರಾಸರಿಯನ್ನು ಸ್ಥಿರವಾಗಿಟ್ಟುಕೊಂಡು ಸಣ್ಣ ಸ್ಫೋಟಗಳನ್ನು ಅನುಮತಿಸುತ್ತದೆ |
ಎಣಿಕೆಗಳನ್ನು ವೇಗವಾಗಿ ಮತ್ತು ಹಂಚಿಕೊಂಡು ಎಲ್ಲೋ ಸಂಗ್ರಹಿಸಬೇಕು. ಒಂದೇ ಸಣ್ಣ ಸರ್ವರ್‌ನಲ್ಲಿ ಮೆಮರಿ ಸಾಕು. ಆ್ಯಪ್ ಹಲವು ಯಂತ್ರಗಳಲ್ಲಿ ಓಡಿದಾಗ, ಕೌಂಟರ್ ಸಾಮಾನ್ಯವಾಗಿ Redis ಅಥವಾ ಡೇಟಾಬೇಸ್‌ನಂತಹ ಹಂಚಿದ ಸಂಗ್ರಹದಲ್ಲಿ ಇರುತ್ತದೆ; ಇಲ್ಲದಿದ್ದರೆ ಪ್ರತಿ ಯಂತ್ರ ಬೇರೆಯಾಗಿ ಎಣಿಸುತ್ತದೆ, ಮತ್ತು ನಿಜವಾದ ಮಿತಿ ಹಲವು ಪಟ್ಟು ಹೆಚ್ಚಾಗುತ್ತದೆ.
ಮಿತಿ ಮೀರಿದ ಪ್ರತಿಕ್ರಿಯೆ ಹೇಗಿರುತ್ತದೆ
ವಿನಂತಿ ಮಿತಿ ಮೀರಿದಾಗ, ಸರಿಯಾಗಿ ನಡೆದುಕೊಳ್ಳುವ API ಹೀಗೆ ಪ್ರತಿಕ್ರಿಯಿಸುತ್ತದೆ:
- ಸ್ಥಿತಿ ಕೋಡ್
429 Too Many Requests. - ಆಗಾಗ್ಗೆ
Retry-Afterಹೆಡರ್, ಎಷ್ಟು ಸೆಕೆಂಡ್ ಕಾಯಬೇಕು ಎಂದು ಹೇಳುತ್ತದೆ. - ಕೆಲವೊಮ್ಮೆ ನಿಮ್ಮ ಮಿತಿ ಮತ್ತು ಈ ವಿಂಡೋದಲ್ಲಿ ಎಷ್ಟು ವಿನಂತಿಗಳು ಉಳಿದಿವೆ ಎಂದು ತೋರಿಸುವ ಹೆಡರ್‌ಗಳು (ಹೆಸರುಗಳು ಒದಗಿಸುವವರಿಗೆ ಅನುಗುಣವಾಗಿ ಬದಲಾಗುತ್ತವೆ).
ನಿಮ್ಮ ಆ್ಯಪ್ 429 ಗೆ ಕಾಯುವ ಮೂಲಕ ಮತ್ತು ನಂತರ ಮತ್ತೆ ಪ್ರಯತ್ನಿಸುವ ಮೂಲಕ ಪ್ರತಿಕ್ರಿಯಿಸಬೇಕು — ಆದರ್ಶವಾಗಿ ಘಾತೀಯ ಬ್ಯಾಕ್‌ಆಫ್ ಬಳಸಿ, ಅಂದರೆ ಪ್ರತಿ ವಿಫಲ ಪ್ರಯತ್ನದ ನಂತರ ಸ್ವಲ್ಪ ಹೆಚ್ಚು ಕಾಯುವುದು (1 ಸೆಕೆಂಡ್, ನಂತರ 2, ನಂತರ 4), ಸೇವೆಯನ್ನು ಪದೇ ಪದೇ ಬಡಿಯುವ ಬದಲು.
ಕೆಲಸ ಮಾಡಿದ ಉದಾಹರಣೆ: AI ಬರವಣಿಗೆ ಸಹಾಯಕ
ಬಳಕೆದಾರರು ಪಠ್ಯವನ್ನು ಅಂಟಿಸಿ AI ಮರುಬರಹ ಪಡೆಯುವ ಆ್ಯಪ್ ನಿರ್ಮಿಸಿದ್ದೀರಿ ಎಂದುಕೊಳ್ಳಿ.
ಮಿತಿಗಳಿಲ್ಲದೆ: ಒಬ್ಬರು ರಾತ್ರಿಯಲ್ಲಿ 20,000 ವಿನಂತಿಗಳನ್ನು ಕಳುಹಿಸುವ ಸ್ಕ್ರಿಪ್ಟ್ ಬರೆಯುತ್ತಾರೆ. ನಿಮ್ಮ AI ಒದಗಿಸುವವರ ಬಿಲ್ ಏರುತ್ತದೆ, ಮತ್ತು ನಿಮ್ಮ ಖಾತೆ ಒದಗಿಸುವವರ ಸ್ವಂತ ರೇಟ್ ಮಿತಿಯನ್ನು ತಲುಪುತ್ತದೆ, ಆದ್ದರಿಂದ ನಿಜವಾದ ಬಳಕೆದಾರರು ಬೆಳಿಗ್ಗೆಯವರೆಗೆ ದೋಷಗಳನ್ನು ನೋಡುತ್ತಾರೆ.
ಸಮಂಜಸ ಮಿತಿಗಳೊಂದಿಗೆ:
- ಸೈನ್-ಇನ್ ಆದ ಪ್ರತಿ ಬಳಕೆದಾರರಿಗೆ: ಉಚಿತ ಯೋಜನೆಯಲ್ಲಿ ಗಂಟೆಗೆ 30 ಮರುಬರಹಗಳು, ಪಾವತಿಸಿದ ಯೋಜನೆಯಲ್ಲಿ 300. ಮಿತಿ ಮೀರಿದರೆ ಬಳಕೆದಾರರು ನೋಡುವುದು: “ಈ ಗಂಟೆಯ ಮಿತಿ ತಲುಪಿದೆ. 12 ನಿಮಿಷಗಳ ನಂತರ ಮತ್ತೆ ಪ್ರಯತ್ನಿಸಿ, ಅಥವಾ ಅಪ್‌ಗ್ರೇಡ್ ಮಾಡಿ.”
- ಸೈನ್-ಅಪ್ ಫಾರ್ಮ್‌ನಲ್ಲಿ ಪ್ರತಿ IP ವಿಳಾಸಕ್ಕೆ: ಗಂಟೆಗೆ 5 ಸೈನ್-ಅಪ್‌ಗಳು, ಬಾಟ್‌ಗಳು ಪ್ರತಿ-ಬಳಕೆದಾರ ಮಿತಿಯನ್ನು ತಪ್ಪಿಸಲು ಸಾವಿರಾರು ಉಚಿತ ಖಾತೆಗಳನ್ನು ಸೃಷ್ಟಿಸುವುದನ್ನು ತಡೆಯಲು.
- ಖರ್ಚು ಮಿತಿ: ಎಲ್ಲವೂ ವಿಫಲವಾದರೆ ಕೊನೆಯ ರಕ್ಷಣೆಯಾಗಿ ನಿಮ್ಮ AI ಒದಗಿಸುವವರ ಡ್ಯಾಶ್‌ಬೋರ್ಡ್‌ನಲ್ಲಿ ಹೊಂದಿಸಿದ ಖರ್ಚು ಮಿತಿ.
- ಒದಗಿಸುವವರ ಮಿತಿಗಳನ್ನು ನಿರ್ವಹಿಸುವುದು: AI ಒದಗಿಸುವವರು 429 ನೀಡಿದರೆ, ನಿಮ್ಮ ಸರ್ವರ್ ಒಂದೆರಡು ಬಾರಿ ಕಾದು ಮರುಪ್ರಯತ್ನಿಸುತ್ತದೆ, ನಂತರ ಸ್ನೇಹಪರ “ಕಾರ್ಯನಿರತ, ದಯವಿಟ್ಟು ಮತ್ತೆ ಪ್ರಯತ್ನಿಸಿ” ಸಂದೇಶ ತೋರಿಸುತ್ತದೆ.
ಮಿತಿಗಳನ್ನು ಸರ್ವರ್‌ನಲ್ಲಿ ಪರಿಶೀಲಿಸಲಾಗುತ್ತದೆ. ಬ್ರೌಸರ್‌ನಲ್ಲಿ ಮಾತ್ರ ಇರುವ ಮಿತಿ — ಉದಾಹರಣೆಗೆ 30 ಕ್ಲಿಕ್‌ಗಳ ನಂತರ ಬಟನ್ ನಿಷ್ಕ್ರಿಯಗೊಳಿಸುವುದು — ನಿಮ್ಮ API ಅನ್ನು ನೇರವಾಗಿ ಕರೆಯುವ ಯಾರಾದರೂ ಬೈಪಾಸ್ ಮಾಡಬಹುದು.
ಪ್ರಮುಖ ಪದಗಳು
| ಪದ | ಅರ್ಥ |
|---|---|
| ರೇಟ್ ಲಿಮಿಟ್ | ಒಂದು ಸಮಯ ವಿಂಡೋದಲ್ಲಿ ಅನುಮತಿಸಲಾದ ಗರಿಷ್ಠ ವಿನಂತಿಗಳ ಸಂಖ್ಯೆ. |
| ಕೋಟಾ | ದೊಡ್ಡ ಭತ್ಯೆ, ಆಗಾಗ್ಗೆ ದಿನ ಅಥವಾ ತಿಂಗಳಿಗೆ, ಕೆಲವೊಮ್ಮೆ ಪಾವತಿಸಿದ ಯೋಜನೆಗೆ ಜೋಡಿಸಲ್ಪಟ್ಟಿರುತ್ತದೆ. |
| 429 | “ತುಂಬಾ ವಿನಂತಿಗಳು” ಎಂಬುದಕ್ಕೆ HTTP ಸ್ಥಿತಿ ಕೋಡ್. |
| Retry-After | ಮತ್ತೆ ಪ್ರಯತ್ನಿಸುವ ಮೊದಲು ಎಷ್ಟು ಕಾಯಬೇಕು ಎಂದು ಹೇಳುವ ಪ್ರತಿಕ್ರಿಯೆ ಹೆಡರ್. |
| ಥ್ರೊಟ್ಲಿಂಗ್ | ಮಿತಿ ಮೀರಿದ ವಿನಂತಿಗಳನ್ನು ನಿಧಾನಗೊಳಿಸುವುದು ಅಥವಾ ನಿರಾಕರಿಸುವುದು. ಆಗಾಗ್ಗೆ ಸಮಾನಾರ್ಥಕವಾಗಿ ಬಳಸಲಾಗುತ್ತದೆ. |
| ಘಾತೀಯ ಬ್ಯಾಕ್‌ಆಫ್ | ಮರುಪ್ರಯತ್ನಗಳ ನಡುವೆ ಕ್ರಮೇಣ ಹೆಚ್ಚು ಕಾಯುವುದು. |
| ಬರ್ಸ್ಟ್ | ಒಮ್ಮೆಗೇ ಬರುವ ಹಲವು ವಿನಂತಿಗಳ ಸಣ್ಣ ಉಲ್ಬಣ. |
| ಬ್ರೂಟ್-ಫೋರ್ಸ್ ದಾಳಿ | ಒಂದು ಕೆಲಸ ಮಾಡುವವರೆಗೆ ಅಪಾರ ಸಂಖ್ಯೆಯ ಪಾಸ್‌ವರ್ಡ್‌ಗಳು ಅಥವಾ ಕೋಡ್‌ಗಳನ್ನು ಪ್ರಯತ್ನಿಸುವುದು. |
ಸಾಮಾನ್ಯ ತಪ್ಪು ಕಲ್ಪನೆಗಳು
- “ರೇಟ್ ಲಿಮಿಟಿಂಗ್ ದೊಡ್ಡ ಆ್ಯಪ್‌ಗಳಿಗೆ ಮಾತ್ರ.” ಸಣ್ಣ ಆ್ಯಪ್‌ಗಳೂ ಗುರಿಯಾಗುತ್ತವೆ, ಏಕೆಂದರೆ ಬಾಟ್‌ಗಳು ತೆರೆದ ಫಾರ್ಮ್‌ಗಳು ಮತ್ತು AI ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗಳಿಗಾಗಿ ಇಡೀ ಇಂಟರ್ನೆಟ್ ಅನ್ನು ಸ್ಕ್ಯಾನ್ ಮಾಡುತ್ತವೆ. ದುರುಪಯೋಗದ ವೆಚ್ಚ ನಿಮ್ಮ ಗಾತ್ರವನ್ನು ಅವಲಂಬಿಸುವುದಿಲ್ಲ.
- “ಬಟನ್ ಮರೆಮಾಡುವುದು ಸಾಕು.” ಬ್ರೌಸರ್ ಬದಿಯ ಮಿತಿಗಳು ಸೌಜನ್ಯ, ರಕ್ಷಣೆ ಅಲ್ಲ. ನಿಜವಾದ ಮಿತಿಗಳನ್ನು ಸರ್ವರ್‌ನಲ್ಲಿ ಜಾರಿಗೊಳಿಸಬೇಕು.
- “ಪ್ರತಿ-IP ಮಿತಿಗಳು ಯಾವಾಗಲೂ ನ್ಯಾಯಯುತ.” ಹಲವರು ಒಂದೇ IP ವಿಳಾಸ ಹಂಚಿಕೊಳ್ಳಬಹುದು — ಕಚೇರಿ, ಶಾಲೆ, ಮೊಬೈಲ್ ನೆಟ್‌ವರ್ಕ್. ಜನರು ಸೈನ್-ಇನ್ ಆದ ನಂತರ ಪ್ರತಿ-ಬಳಕೆದಾರ ಮಿತಿಗಳು ಹೆಚ್ಚು ನ್ಯಾಯಯುತ.
- “429 ಎಂದರೆ ಸೇವೆ ಮುರಿದಿದೆ.” ಅದರ ಅರ್ಥ ನೀವು ಅದನ್ನು ಪದೇ ಪದೇ ಕರೆಯುತ್ತಿದ್ದೀರಿ. ನಿಮ್ಮ ಕೋಡ್‌ನಲ್ಲಿ ಲೂಪ್‌ಗಳನ್ನು ಪರಿಶೀಲಿಸಿ, ಮತ್ತು ಆಗಾಗ್ಗೆ ಬದಲಾಗದ ಫಲಿತಾಂಶಗಳನ್ನು ಕ್ಯಾಶ್ ಮಾಡಿ — ಕ್ಯಾಶಿಂಗ್ ಎಂದರೇನು ನೋಡಿ.
- “ರೇಟ್ ಲಿಮಿಟಿಂಗ್ ಖರ್ಚು ಮಿತಿಯನ್ನು ಬದಲಿಸುತ್ತದೆ.” ಎರಡನ್ನೂ ಬಳಸಿ. ನಿಮ್ಮ ಆ್ಯಪ್‌ನ ಮಿತಿಗಳಲ್ಲಿ ದೋಷಗಳಿರಬಹುದು; ಒದಗಿಸುವವರ ಖರ್ಚು ಮಿತಿ ನಿಮ್ಮ ಬ್ಯಾಕ್‌ಸ್ಟಾಪ್.
ನಿಮ್ಮ AI ಬಿಲ್ಡರ್‌ನಿಂದ ಏನು ಕೇಳಬೇಕು
- “ಲಾಗಿನ್, ಸೈನ್-ಅಪ್, ಪಾಸ್‌ವರ್ಡ್ ಮರುಹೊಂದಿಕೆ ಮತ್ತು AI ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗೆ ಸರ್ವರ್-ಬದಿಯ ರೇಟ್ ಲಿಮಿಟಿಂಗ್ ಸೇರಿಸಿ. ಸಮಂಜಸ ಮಿತಿಗಳನ್ನು ಸೂಚಿಸಿ.”
- “ಪ್ರತಿ ಸೈನ್-ಇನ್ ಆದ ಬಳಕೆದಾರರಿಗೆ ಗಂಟೆಗೆ [N] AI ವಿನಂತಿಗಳಿಗೆ ಮಿತಿ ಹೊಂದಿಸಿ, ಮತ್ತು ಮಿತಿ ತಲುಪಿದಾಗ ಕಾಯುವ ಸಮಯದೊಂದಿಗೆ ಸ್ಪಷ್ಟ ಸಂದೇಶ ತೋರಿಸಿ.”
- “ಹೊರಗಿನ API 429 ನೀಡಿದರೆ, ಘಾತೀಯ ಬ್ಯಾಕ್‌ಆಫ್‌ನೊಂದಿಗೆ ಗರಿಷ್ಠ 3 ಬಾರಿ ಮರುಪ್ರಯತ್ನಿಸಿ, ನಂತರ ಸ್ನೇಹಪರ ದೋಷ ತೋರಿಸಿ.”
- “ರೇಟ್-ಲಿಮಿಟ್ ಕೌಂಟರ್‌ಗಳು ಎಲ್ಲಿ ಸಂಗ್ರಹವಾಗಿವೆ? ಆ್ಯಪ್ ಹಲವು ಯಂತ್ರಗಳಲ್ಲಿ ಓಡಿದರೂ ಅವು ಕೆಲಸ ಮಾಡುತ್ತವೆಯೇ?”
- “ಯಾವುದೇ ಬಳಕೆದಾರ ಅಥವಾ IP ಮಿತಿ ತಲುಪಿದಾಗಲೆಲ್ಲ ದಾಖಲಿಸಿ, ಇದರಿಂದ ದುರುಪಯೋಗವನ್ನು ಗುರುತಿಸಬಹುದು.”
- “ಈ ಆ್ಯಪ್ ಯಾವ ಹೊರಗಿನ ಸೇವೆಗಳನ್ನು ಕರೆಯುತ್ತದೆ, ಮತ್ತು ಅವುಗಳ ರೇಟ್ ಮಿತಿಗಳೇನು?”
Mythex ನಲ್ಲಿ ರೇಟ್ ಲಿಮಿಟಿಂಗ್
AI ಫೀಚರ್‌ಗಳಿಗೆ Mythex ದಾಖಲೆಗಳು ಇದರ ಬಗ್ಗೆ ನೇರವಾಗಿವೆ: ನೀವು ನಿರ್ಮಿಸುವ ಆ್ಯಪ್‌ಗಳಲ್ಲಿ ರೇಟ್ ಮಿತಿಗಳು, ಸುರಕ್ಷತೆ ಮತ್ತು ವೆಚ್ಚ ನಿಯಂತ್ರಣಗಳನ್ನು ನೀವೇ ವಿನ್ಯಾಸಗೊಳಿಸಬೇಕು — ನೋಡಿ AI ಆ್ಯಪ್ ನಿರ್ಮಿಸಿ. ಫೀಚರ್ ಕೇಳುವ ಅದೇ ಸಂದೇಶದಲ್ಲಿ ಮಿತಿಗಳನ್ನು ಸೇರಿಸಲು ಏಜೆಂಟ್‌ಗೆ ಕೇಳಿ. Pro ನಲ್ಲಿ, ಭಾರೀ ಟ್ರಾಫಿಕ್ ಇದ್ದಾಗ ಪ್ರಕಟಿತ ಸೇವೆ ಮೂರು ಯಂತ್ರಗಳವರೆಗೆ ಓಡಬಹುದು (ನೋಡಿ ಹೋಸ್ಟಿಂಗ್ ಮಿತಿಗಳು), ಆದ್ದರಿಂದ ಒಂದು ಸರ್ವರ್‌ನ ಮೆಮರಿಯಲ್ಲಿ ಅಲ್ಲ, ಡೇಟಾಬೇಸ್‌ನಲ್ಲಿ ಇರುವ ಕೌಂಟರ್‌ಗಳನ್ನು ಕೇಳಿ.
ಸಂಬಂಧಿತ ಓದು: API ಎಂದರೇನು, LLM APIಗಳನ್ನು ಬಳಸುವುದು ಹೇಗೆ ಮತ್ತು AI ನಿರ್ಮಿತ ಆ್ಯಪ್‌ಗಳಿಗಾಗಿ ಭದ್ರತಾ ಪಟ್ಟಿ.
ಪ್ರಶ್ನೆಗಳು
ಸರಳವಾಗಿ ಹೇಳುವುದಾದರೆ ರೇಟ್ ಲಿಮಿಟಿಂಗ್ ಎಂದರೇನು?
ರೇಟ್ ಲಿಮಿಟಿಂಗ್ ಎಂದರೆ ಒಬ್ಬ ಬಳಕೆದಾರ, ಸಾಧನ ಅಥವಾ ಆ್ಯಪ್ ನಿರ್ದಿಷ್ಟ ಅವಧಿಯಲ್ಲಿ ಎಷ್ಟು ವಿನಂತಿಗಳನ್ನು ಮಾಡಬಹುದು ಎಂಬುದನ್ನು ಮಿತಿಗೊಳಿಸುವ ನಿಯಮ — ಉದಾಹರಣೆಗೆ ನಿಮಿಷಕ್ಕೆ 5 ಲಾಗಿನ್ ಪ್ರಯತ್ನಗಳು, ಅಥವಾ ಗಂಟೆಗೆ 100 API ಕರೆಗಳು. ಮಿತಿ ಮೀರಿದ ವಿನಂತಿಗಳನ್ನು ಅವಧಿ ಮರುಹೊಂದಿಸುವವರೆಗೆ ನಿರಾಕರಿಸಲಾಗುತ್ತದೆ.
429 Too Many Requests ದೋಷ ಎಂದರೆ ಏನು?
HTTP ಸ್ಥಿತಿ 429 ಎಂದರೆ ನೀವು ತುಂಬಾ ಕಡಿಮೆ ಅವಧಿಯಲ್ಲಿ ತುಂಬಾ ವಿನಂತಿಗಳನ್ನು ಕಳುಹಿಸಿ ರೇಟ್ ಮಿತಿಯನ್ನು ತಲುಪಿದ್ದೀರಿ. ಪ್ರತಿಕ್ರಿಯೆಯಲ್ಲಿ ಎಷ್ಟು ಹೊತ್ತು ಕಾಯಬೇಕು ಎಂದು ತಿಳಿಸುವ Retry-After ಹೆಡರ್ ಇರಬಹುದು. ಪರಿಹಾರ: ವೇಗ ತಗ್ಗಿಸಿ, ವಿರಾಮದ ನಂತರ ಮತ್ತೆ ಪ್ರಯತ್ನಿಸಿ, ಅಥವಾ ಸೇವೆಯನ್ನು ಕರೆಯುವ ಆವರ್ತನ ಕಡಿಮೆ ಮಾಡಿ.
ನನ್ನ AI ಆಧಾರಿತ ಆ್ಯಪ್‌ಗೆ ರೇಟ್ ಲಿಮಿಟಿಂಗ್ ಏಕೆ ಬೇಕು?
ಪ್ರತಿ AI ವಿನಂತಿಯು ಟೋಕನ್‌ಗಳ ರೂಪದಲ್ಲಿ ನಿಮಗೆ ಹಣ ವೆಚ್ಚ ಮಾಡುತ್ತದೆ. ಮಿತಿ ಇಲ್ಲದಿದ್ದರೆ, ಒಬ್ಬ ಬಳಕೆದಾರ ಅಥವಾ ಬಾಟ್ ಸಾವಿರಾರು ವಿನಂತಿಗಳನ್ನು ಕಳುಹಿಸಿ ದೊಡ್ಡ ಬಿಲ್ ಅಥವಾ ಒದಗಿಸುವವರ ಕೋಟಾ ಖಾಲಿ ಮಾಡಬಹುದು, ಮತ್ತು ಎಲ್ಲರಿಗೂ ಆ ಫೀಚರ್ ನಿಲ್ಲಬಹುದು. ಪ್ರತಿ-ಬಳಕೆದಾರ ಮಿತಿಗಳು ವೆಚ್ಚವನ್ನು ಊಹಿಸಬಹುದಾದಂತೆ ಇಡುತ್ತವೆ.
ರೇಟ್ ಲಿಮಿಟಿಂಗ್ ಮತ್ತು ಥ್ರೊಟ್ಲಿಂಗ್ ಒಂದೇ ಆ?
ಅವು ನಿಕಟವಾಗಿ ಸಂಬಂಧಿಸಿವೆ ಮತ್ತು ಆಗಾಗ್ಗೆ ಪರ್ಯಾಯವಾಗಿ ಬಳಸಲಾಗುತ್ತವೆ. ರೇಟ್ ಲಿಮಿಟಿಂಗ್ ಸಾಮಾನ್ಯವಾಗಿ ಮಿತಿ ಮೀರಿದ ವಿನಂತಿಗಳನ್ನು ತಿರಸ್ಕರಿಸುವುದು ಎಂದರ್ಥ, ಆದರೆ ಥ್ರೊಟ್ಲಿಂಗ್ ಅವುಗಳನ್ನು ನೇರವಾಗಿ ನಿರಾಕರಿಸದೆ ನಿಧಾನಗೊಳಿಸುವುದು ಅಥವಾ ಸರದಿಯಲ್ಲಿ ಇಡುವುದು ಎಂದೂ ಆಗಬಹುದು.
ರೇಟ್ ಲಿಮಿಟಿಂಗ್ DDoS ದಾಳಿಗಳನ್ನು ತಡೆಯುತ್ತದೆಯೇ?
ಸಣ್ಣ ಪ್ರವಾಹಗಳು ಮತ್ತು ವೈಯಕ್ತಿಕ ಬಳಕೆದಾರರು ಅಥವಾ IP ವಿಳಾಸಗಳ ದುರುಪಯೋಗದ ವಿರುದ್ಧ ಇದು ಸಹಾಯ ಮಾಡುತ್ತದೆ. ಆದರೆ ದೊಡ್ಡ ವಿತರಿತ ದಾಳಿ ಅನೇಕ ವಿಳಾಸಗಳಿಂದ ಒಮ್ಮೆಗೇ ಬರುತ್ತದೆ. ಅದರ ವಿರುದ್ಧ ರಕ್ಷಣೆ ಸಾಮಾನ್ಯವಾಗಿ ನೆಟ್‌ವರ್ಕ್ ಅಥವಾ CDN ಮಟ್ಟದಲ್ಲಿ, ಟ್ರಾಫಿಕ್ ನಿಮ್ಮ ಆ್ಯಪ್ ತಲುಪುವ ಮೊದಲೇ ನಡೆಯುತ್ತದೆ.