Τι είναι το context rot;
Το context rot είναι η πτώση της ποιότητας των απαντήσεων της AI όσο μακραίνει μια συζήτηση, επειδή η προσοχή του μοντέλου απλώνεται σε όλο και περισσότερα tokens μέχρι που οι προηγούμενες οδηγίες χάνουν την επιρροή τους.
Το context rot δεν είναι το ίδιο με το να ξεμένεις από χώρο. Εμφανίζεται πολύ πριν το σκληρό όριο, γιατί ένα μοντέλο δίνει μεγαλύτερο βάρος στα πρόσφατα tokens παρά στα πιο μακρινά. Οι οδηγίες που έβαλες στο πρώτο σου μήνυμα είναι τεχνικά ακόμα στο context αλλά τους αποδίδεται χαμηλή σημασία, οπότε το μοντέλο τις διαβάζει και ουσιαστικά τις αγνοεί.
Τα συμπτώματα είναι αναγνωρίσιμα: ένας κανόνας μορφοποίησης που έθεσες νωρίς σταματάει σιωπηλά να ακολουθείται, ένας περιορισμός που έβαλες παραβιάζεται, ή ο βοηθός ξαναρωτάει κάτι που έχεις ήδη απαντήσει. Η Anthropic περιγράφει το φαινόμενο στις δικές της οδηγίες για μεγάλες συνεδρίες Claude Code, σημειώνοντας ότι η απόδοση πέφτει καθώς το context μεγαλώνει, επειδή η προσοχή μοιράζεται σε περισσότερα tokens και το παλιότερο περιεχόμενο αρχίζει να αποσπά από την τρέχουσα εργασία.
Τα πρακτικά αντίμετρα είναι όλες οι μορφές επαναπροσδιορισμού. Επανάλαβε τις βασικές οδηγίες κάθε δέκα περίπου ανταλλαγές, βάλε κρίσιμους περιορισμούς κοντά στο τέλος του μηνύματός σου όπου έχουν μεγαλύτερο βάρος, και χώρισε πραγματικά άσχετες εργασίες σε ξεχωριστές συνομιλίες αντί να τις στοιβάζεις σε ένα νήμα.
πώς λειτουργεί αυτό στο folk
Η συμπίεση βοηθά με το rot καθώς και με τη χωρητικότητα, επειδή η σύνοψη των παλιών στροφών αφαιρεί τον θόρυβο που αποδυνάμωνε την προσοχή. Το Folk προστατεύει τις νεότερες στροφές και το αρχικό πλαίσιο, και μετά συμπιέζει ό,τι είναι στο ενδιάμεσο.
συχνές ερωτήσεις
Είναι το context rot το ίδιο με το να χτυπάς το όριο context;
Όχι. Το να φτάσεις το όριο είναι ένα σκληρό όριο όπου το περιεχόμενο κόβεται. Το context rot είναι μια σταδιακή πτώση ποιότητας που ξεκινά πολύ πριν το όριο, επειδή η προσοχή αραιώνει όσο μεγαλώνει η συζήτηση.
Πώς διορθώνω ένα AI που σταμάτησε να ακολουθεί τις οδηγίες μου;
Ξανα-αγκύρωσε. Κάνε επικόλληση μιας σύνοψης τριών έως πέντε γραμμών με τις βασικές αποφάσεις και τους περιορισμούς στην αρχή του επόμενου μηνύματός σου, και επανάλαβε οποιονδήποτε κανόνα μορφοποίησης έθεσες νωρίτερα. Αν το θέμα έχει αλλάξει πραγματικά, ξεκίνα μια νέα συζήτηση.
Πόσο μεγάλη είναι πολύ μεγάλη για μια κουβέντα με AI;
Δεν υπάρχει σταθερός αριθμός, αλλά η ποιότητα συνήθως αρχίζει να πέφτει κάπου μετά από είκοσι με τριάντα ουσιαστικές ανταλλαγές. Ένας καλύτερος κανόνας είναι θεματικός: όταν περνάς σε μια πραγματικά νέα εργασία, ξεκίνα ένα νέο thread.