Τι είναι η cache; Οδηγός με απλά λόγια για δημιουργούς εφαρμογών

Η cache σημαίνει ότι κρατάτε έτοιμο αντίγραφο κάτι που ήταν αργό ή δαπανηρό να ληφθεί, ώστε το επόμενο αίτημα γι' αυτό να απαντηθεί γρήγορα από εκείνο το αντίγραφο. Το αποθηκευμένο αντίγραφο λέγεται cache. Ο περιηγητής σας αποθηκεύει εικόνες ώστε ένα site να φορτώνει πιο γρήγορα στη δεύτερη επίσκεψη· ένας διακομιστής αποθηκεύει το αποτέλεσμα ενός αργού ερωτήματος βάσης, ώστε να μην το εκτελεί για κάθε επισκέπτη.

Η cache κάνει τις εφαρμογές πιο γρήγορες και φθηνότερες στη λειτουργία. Το μεγάλο αντιστάθμισμα είναι ότι ένα αντίγραφο μπορεί να ξεπεραστεί.

Γιατί έχει σημασία η cache όταν φτιάχνετε με AI

Θα συναντήσετε την cache σε εφαρμογές που φτιάχνονται με AI με τρεις τρόπους:

• «Ενημέρωσα την εφαρμογή αλλά βλέπω ακόμα την παλιά έκδοση». Αυτή είναι η πιο συνηθισμένη στιγμή με cache, και συνήθως είναι αβλαβής — ο περιηγητής σας ή ένα CDN δείχνει ένα αποθηκευμένο αντίγραφο.
• Ταχύτητα. Αν μια σελίδα είναι αργή επειδή υπολογίζει ξανά τους ίδιους αριθμούς για κάθε επισκέπτη, η αποθήκευση του αποτελέσματος μπορεί να την κάνει να φαίνεται άμεση.
• Κόστος. Πολλά εργαλεία δημιουργίας και φιλοξενίας με AI χρεώνουν για υπολογιστική ισχύ, χρόνο βάσης και εξωτερικές κλήσεις API. Αν χίλιοι επισκέπτες προκαλούν το ίδιο ακριβό αίτημα, η cache σας επιτρέπει να το πληρώσετε μία φορά.

Αν γνωρίζετε τα βασικά, μπορείτε να ζητήσετε cache εκεί που βοηθά και να τη διακρίνετε όταν είναι η αιτία κάποιου περίεργου αποτελέσματος.

Μια καθημερινή αναλογία

σκεφτείτε την κουζίνα ενός πολυσύχναστου καφέ.

Κάθε πρωί, ο σεφ θα μπορούσε να φτιάχνει κάθε καφέ από φρεσκοαλεσμένο κόκκο όταν παραγγελθεί. Αυτό είναι αργό. Αντί γι' αυτό, κρατά έτοιμη μια κανάτα φίλτρου στη θερμαντική πλάκα. Οι περισσότεροι πελάτες παίρνουν καφέ σε δευτερόλεπτα — αυτό είναι cache hit. Όταν τελειώσει η κανάτα, κάποιος φτιάχνει νέα — cache miss.

Αλλά ο καφές που μένει πολλή ώρα χαλάει, οπότε ο καφές έχει κανόνα: πετάει κάθε κανάτα παλιότερη από 30 λεπτά. Αυτός ο κανόνας είναι ο χρόνος λήξης της cache. Κανείς δεν θα κρατούσε την ίδια κανάτα όλη τη μέρα, και κανείς δεν θα προετοίμαζε την παραγγελία κάποιου με γάλα βρώμης και τρεις κουταλιές ζάχαρη — ορισμένα πράγματα δεν πρέπει ποτέ να αποθηκεύονται.

Πού ζουν οι caches

Μια φόρτωση σελίδας μπορεί να περάσει από αρκετές caches, από την πιο κοντινή στον χρήστη προς την πιο μακρινή:

Ένα CDN (content delivery network) είναι ουσιαστικά ένα παγκόσμιο δίκτυο caches για τα αρχεία του site σας.

Πώς μια cache αποφασίζει τι κρατά

Κάθε cache πρέπει να απαντήσει στις ίδιες ερωτήσεις:

• Τι μπορεί να αποθηκευτεί; Δημόσια, κοινόχρηστα δεδομένα (μια εικόνα προϊόντος, ένα άρθρο blog) — ναι. Ιδιωτικά δεδομένα (η σελίδα λογαριασμού ενός χρήστη, τα μηνύματά του) — ποτέ σε κοινόχρηστη cache.
• Για πόσο; Αυτό είναι το TTL (time to live). Ένα λογότυπο μπορεί να αποθηκευτεί για ένα χρόνο· ένα απόθεμα για 30 δευτερόλεπτα.
• Πώς ενημερώνεται; Είτε λήγει το αντίγραφο και ξαναφέρνεται, είτε η εφαρμογή το αφαιρεί σκόπιμα όταν αλλάζουν τα δεδομένα — αυτό λέγεται ακύρωση (invalidation).

Για ιστότοπους, ο διακομιστής λέει στους περιηγητές και στα CDN πώς να αποθηκεύουν κάθε αρχείο, με την κεφαλίδα Cache-Control. Για παράδειγμα, το Cache-Control: max-age=3600 σημαίνει «μπορείς να επαναχρησιμοποιήσεις αυτό το αντίγραφο για μία ώρα».

Τα σύγχρονα εργαλεία build αναλαμβάνουν το δυσκολότερο μέρος για τα στατικά αρχεία με το cache busting: κάθε φορά που αλλάζει ένα αρχείο, παίρνει νέο όνομα με αποτύπωμα, όπως app.3f9a2c.js. Οι περιηγητές μπορούν να αποθηκεύσουν το παλιό όνομα για πολύ καιρό, γιατί η νέα έκδοση απλώς έχει διαφορετικό όνομα.

Ένα παράδειγμα βήμα βήμα: ένας κατάλογος προϊόντων

Έχετε ένα μικρό online κατάστημα. Η αρχική σελίδα δείχνει 50 προϊόντα με τιμές και αποθέματα από τη βάση, καθώς και μια λίστα «δημοφιλών» που απαιτεί αργό υπολογισμό σε όλες τις παραγγελίες.

1. Εικόνες και scripts αποθηκεύονται από τον περιηγητή και το CDN για πολύ καιρό. Κάθε νέο build δίνει νέα ονόματα στα αλλαγμένα αρχεία, οπότε οι ενημερώσεις εμφανίζονται κανονικά.
2. Η λίστα δημοφιλών υπολογίζεται μία φορά κάθε 10 λεπτά και αποθηκεύεται σε cache εφαρμογής. Κάθε επισκέπτης μέσα σε αυτά τα 10 λεπτά παίρνει το αποθηκευμένο αποτέλεσμα αμέσως.
3. Οι τιμές αποθηκεύονται για σύντομο χρόνο, και η cache καθαρίζεται κάθε φορά που επεξεργάζεστε ένα προϊόν, ώστε οι πελάτες να μη βλέπουν παλιά τιμή για πολύ.
4. Το απόθεμα στο ταμείο δεν αποθηκεύεται ποτέ. Όταν κάποιος πατήσει «Αγορά», η εφαρμογή ελέγχει την πραγματική βάση, ώστε να μην πουλήσει προϊόν που μόλις εξαντλήθηκε.
5. Οι σελίδες καλαθιού και λογαριασμού δεν αποθηκεύονται ποτέ σε κοινόχρηστες caches, γιατί είναι προσωπικές.

Το αποτέλεσμα: η αρχική σελίδα είναι γρήγορη, η βάση κάνει πολύ λιγότερη δουλειά και τίποτα που αφορά χρήματα ή ιδιωτικότητα δεν είναι ποτέ παλιό.

Βασικοί όροι

Συνηθισμένες παρανοήσεις

• «Η cache είναι πάντα καλή». Η αποθήκευση του λάθος πράγματος προκαλεί πραγματικά σφάλματα: παλιές τιμές, νέες αναρτήσεις που δεν εμφανίζονται ή — το χειρότερο — η ιδιωτική σελίδα ενός χρήστη να φαίνεται σε άλλον. Κάντε cache με σκοπό.
• «Αν βλέπω την παλιά έκδοση, η ενημέρωσή μου απέτυχε». Συνήθως δεν απέτυχε. Δοκιμάστε ένα hard refresh (Ctrl+Shift+R, ή Cmd+Shift+R σε Mac) ή ένα ιδιωτικό παράθυρο πριν υποθέσετε ότι κάτι είναι χαλασμένο.
• «Η cache διορθώνει μια αργή εφαρμογή». Απλώς κρύβει την αργοπορία για επαναλαμβανόμενα αιτήματα. Το πρώτο αίτημα εξακολουθεί να είναι αργό, και αν το βασικό πρόβλημα είναι ένα ελλιπές ευρετήριο βάσης, διορθώστε κι αυτό.
• «Πρέπει να αποθηκεύω τα πάντα όσο περισσότερο γίνεται». Οι μεγάλοι χρόνοι cache ταιριάζουν σε αρχεία που παίρνουν νέο όνομα όταν αλλάζουν. Για σελίδες HTML και δεδομένα, οι μικρότεροι χρόνοι είναι ασφαλέστεροι.
• «Ο καθαρισμός της cache μου την διορθώνει για όλους». Καθαρίζει μόνο τον δικό σας περιηγητή. Οι επισκέπτες και οι caches του CDN έχουν ακόμα τα δικά τους αντίγραφα.

Τι να ζητήσετε από το εργαλείο AI

• «Ποια μέρη αυτής της εφαρμογής είναι αργά και ποια θα μπορούσαν να αποθηκευτούν με ασφάλεια;»
• «Αποθήκευσε τη [λίστα δημοφιλών / αποτέλεσμα API] για [N] λεπτά και καθάρισέ τη όταν αλλάζουν τα υποκείμενα δεδομένα.»
• «Βεβαιώσου ότι καμία σελίδα με προσωπικά ή λογαριασμού δεδομένα δεν μπορεί να αποθηκευτεί από CDN ή κοινόχρηστη cache.»
• «Όρισε μεγάλους χρόνους cache για στατικά αρχεία με αποτύπωμα και μικρότερους για HTML.»
• «Αποθήκευσε τις απαντήσεις από [εξωτερικό API] ώστε να μην το καλούμε σε κάθε φόρτωση σελίδας — και πες μου πόσο παλιά μπορεί να γίνουν τα δεδομένα.»
• «Βλέπω παλιά έκδοση μετά τη δημοσίευση. Είναι η cache του περιηγητή μου ή δεν έχει αναπτυχθεί κάτι;»

Cache στο Mythex

Μετά τη δημοσίευση μιας ενημέρωσης σε εφαρμογή Mythex, η τεκμηρίωση σημειώνει ότι οι caches του CDN μπορεί να καθυστερούν λίγο, και ένα hard refresh της δημόσιας διεύθυνσης δείχνει τη νέα έκδοση — δείτε Πώς να δημοσιεύσετε. Η σελίδα Όρια φιλοξενίας συνιστά επίσης την cache των στατικών αρχείων, γιατί η φιλοξενία, ο χρόνος βάσης και το εύρος ζώνης πληρώνονται από το υπόλοιπο των πιστώσεών σας. Ό,τι πέρα από αυτό — η cache αποτελεσμάτων ερωτημάτων ή απαντήσεων API — είναι κάτι που ζητάτε από τον πράκτορα να χτίσει μέσα στην εφαρμογή σας.

Σχετική ανάγνωση: τι είναι ένα CDN, πώς να κάνετε το site σας πιο γρήγορο και τι είναι το rate limiting.

Ερωτήσεις