Εισαγωγή
Μετά τη μοριακή και τη γονιδιακή επανάσταση
Αλληλεπιδράσεις δυο φαινομενικά απομακρυσμένων κόσμων
Το επιστημολογικό πρόβλημα
Το πρόβλημα της ανάπτυξης των παραγωγικών σχέσεων
Η σύγχρονη διαπλοκή
Βιβλιογραφία
Η βιολογία βρίσκεται στη δίνη σαρωτικών ανακαλύψεων ήδη από την επανάσταση της μοριακής βιολογίας τη δεκαετία του 1950. Οι εξελίξεις αυτές προκαλούν συγχύσεις τόσο στην επιστημονική κοινότητα, όσο και στο ευρύ κοινό. Συγχύσεις που πολλές φορές έχουν ως αιτία ιδεολογήματα που γεννά ο καπιταλισμός. Στο πλαίσιο αυτών των αλλαγών εμφανίζεται για πρώτη φορά στην ιστορία μια τόσο στενή αλληλεπίδραση της βιολογίας με τα μαθηματικά και την επιστήμη των υπολογιστών. Η εξέλιξη αυτή δημιουργεί προοπτικές για μια επιστημονική επανάσταση με κέντρο τη μοντελοποίηση και ανάλυση δεδομένων.
Οι κατακτήσεις αυτές της επιστήμης εγείρουν ερωτήματα για τα όρια των καινούργιων ερμηνευτικών σχημάτων, ενώ παράλληλα αποτελούν έναν στρατηγικό νέο τομέα κερδοφορίας για το κεφάλαιο. Σε αυτό το άρθρο θα περιγράψουμε τα βασικά στοιχεία των εξελίξεων στη βιολογία και τη σχέση της με μαθηματικά και υπολογιστές, ενώ επίσης θα επιχειρήσουμε να εμπλουτίσουμε την κουβέντα για τις αλλαγές που προκαλούν στις παραγωγικές σχέσεις και τη σύγχρονη διαπλοκή επιστήμης και καπιταλισμού.
Γράφουν:
Κώστας Μπουγιούκος
Eπίκουρος καθηγητής Βιοπληροφορικής και Συστημικής Βιολογίας στο Πανεπιστήμιο Paris
Diderot - Paris VII
Βαγγέλης Μπάρτζος
Υποψήφιος διδάκτορας Αλγοριθμικής Bιολογίας στο τμήμα Πληροφορικής του ΕΚΠΑ
Εισαγωγή
Τα τελευταία χρόνια η είσοδος της πληροφορικής στο χώρο της βιολογίας υπόσχεται μια νέα επανάσταση που μπορεί να βάλει μια τάξη στην υπερπληθώρα νέων δεδομένων και την ανάλυσή τους. Η υιοθέτηση εννοιών όπως big data (μεγάλος όγκος δεδομένων), machine learning (τεχνητή/μηχανική μάθηση) και data science (επιστήμη δεδομένων) βρίσκεται στον πυρήνα της βιολογικής έρευνας. Η δυναμική αυτή είσοδος προκαλεί αλλαγές προσεγγίσεων και νοοτροπιών και αποτελεί για πολλούς ένα καινούργιο «ιερό δισκοπότηρο», του οποίου τα εργαλεία αναμένεται να λύσουν πολλά από τα μεγάλα προβλήματα στις βιοεπιστήμες.
Το βάθος και η έκταση της σχέσης μαθηματικών-υπολογιστών-βιολογίας καθώς και η ιστορική διαδρομή της ανάπτυξής της πάει πολύ μακριά σχεδόν στις απαρχές της ανάπτυξης των υπολογιστών, αλλά και της σύγχρονης βιολογίας και περιλαμβάνει πολλά παράλληλα επίπεδα αλληλεπίδρασης. Στο άρθρο αυτό θα προσπαθήσουμε να περιγράψουμε την ιστορική εξέλιξη της σχέσης αυτής ως μιας σχέσης ανάγκης που προέκυψε και προκύπτει τόσο από την ανάπτυξη της επιστημονικής γνώσης και των παραγωγικών δυνάμεων, όσο και από τη διάρθρωση των παραγωγικών σχέσεων και δη του καπιταλισμού στην πορεία του. Ξεδιπλώνοντας τη διαπλοκή βιολογίας και μαθηματικών-υπολογιστών θα παρουσιάσουμε μερικές πλευρές τόσο της επιστημονικής εγγύτητας όσο και της αποστασιοποίησής τους (για παράδειγμα τι σημαίνει «υπολογιστικότητα» για ένα βιολογικό σύστημα). Μέσα από την περιδίνηση αυτής της σχέσης θα επιδιώξουμε να αναδείξουμε τις πιο σημαντικές κατακτήσεις, τις προοπτικές αλλά και τα όρια αυτών των προσεγγίσεων.
Τέλος, θα προσπαθήσουμε να διερευνήσουμε από μια διαλεκτική υλιστική σκοπιά διάφορες παραπλανητικές αντιλήψεις που ακουμπάνε στη διεπαφή βιολογίας-μαθηματικών-υπολογιστών. Πώς τελικά η ανάπτυξη αυτής της προβληματικής –σήμερα αλλά και ιστορικά– σχέσης μπορεί να οδηγήσει σε ένα νέο παράδειγμα, αλλά ταυτόχρονα εγκυμονεί και κινδύνους τελμάτωσης και πισωγυρισμάτων στη βιολογική έρευνα που προκαλούνται από την κυριαρχία των καπιταλιστικών σχέσεων παραγωγής, ιδιαίτερα σε περιόδους κρίσης.
Μετά τη μοριακή και τη γονιδιακή επανάσταση
Είναι κοινός τόπος –και έχει διατυπωθεί στο έργο πολλών ιστορικών της επιστήμης– ότι η βιολογία πέρασε έναν μεγάλο μετασχηματισμό από τη δεκαετία του 1950 με την επανάσταση της μοριακής βιολογίας, που εκτόξευσε την ανάπτυξη της επιστημονικής γνώσης σε όλους τους τομείς των βιοεπιστημών τα τελευταία 70 σχεδόν χρόνια. Για το μεγαλύτερο κομμάτι της επιστημονικής κοινότητας, η επανάσταση στη μοριακή βιολογία ήταν μια χαρακτηριστική στιγμή καρτεσιανής επιστημονικής ανάπτυξης, δηλαδή διάσπαση του όλου σε μικρά επιμέρους κομμάτια, μελετώντας τα διεξοδικά, μεμονωμένα και με μεγάλη ακρίβεια και οδηγώντας έτσι στην πλήρη επικράτηση του αναγωγισμού. Το κάθε φαινόμενο του έμβιου κόσμου (μέχρι και οργανωτικά ανώτερα φαινόμενα όπως η νοημοσύνη ή τα συναισθήματα) αναγόταν στη μελέτη ενός ή λίγων βιομορίων που «παίζουν καθοριστικό ρόλο» στην εμφάνισή του.
Μια παρόμοια επανάσταση διανύει αυτή τη στιγμή η βιολογία με την τρομακτική μεγέθυνση της γονιδιακής και γονιδιωματικής τεχνολογίας. Η τελευταία στηρίζεται τόσο στη δημιουργία μηχανών για τη γρήγορη και φτηνή παραγωγή τεράστιων ποσοτήτων βιολογικών δεδομένων (συνήθως με τη μορφή συμβόλων βιομορίων, DNA, RNA, αμινοξέα κ.λπ.) όσο και στην ανάπτυξη μαθηματικών, στατιστικών και υπολογιστικών μεθόδων για την ανάλυση αυτού του τεράστιου όγκου δεδομένων. Η νέα αυτή προσέγγιση της βιολογίας ασκεί πίεση και εκ των πραγμάτων προκαλεί και απαιτεί μια μετατόπιση από την παραδοσιακή αναγωγική μέθοδο της μοριακής βιολογίας σε πιο συστημικές προσεγγίσεις˙ προσεγγίσεις οι οποίες εμπλέκουν τη μελέτη πολλαπλών αλληλεπιδράσεων και ερμηνεύουν φαινόμενα βασισμένες στη θεωρία των συστημάτων/βιολογία συστημάτων (system biology). Η μετατόπιση αυτή όμως ούτε ολοκληρωμένη είναι ούτε συμβαίνει χωρίς τριγμούς και προβλήματα που προκαλούνται από τις παρεμβάσεις των καπιταλιστικών αγορών.
Η εισαγωγή της βιολογίας στη γονιδιωματική εποχή και την εποχή των μεγάλων δεδομένων έγινε με την ανάγνωση (ή όπως λανθασμένα αποκαλείται «αποκωδικοποίηση») του ανθρώπινου DNA αλλά και των γονιδιωμάτων πολλών άλλων οργανισμών. Ο ενθουσιασμός περίσσευε το 2001 όταν ο ίδιος ο πρόεδρος των ΗΠΑ ανακοίνωσε τη λήξη του προγράμματος αλληλούχισης του ανθρώπινου γονιδιώματος (Human Genome Project –HGP–) γεγονός που έγινε εφικτό χάρη στην απασχόληση πολλών μαθηματικών και επιστημόνων πληροφορικής στη διαδικασία ανάλυσης και συναρμολόγησης των τεσσάρων δισεκατομμυρίων γραμμάτων DNA που αποτελούν το γονιδίωμα των ανθρώπων.
Η συγκεκριμένη εξέλιξη αρχικά εξέθρεψε τον αναγωγισμό ταυτίζοντας την αλληλουχία των βάσεων με το πλήρες σύνολο των χαρακτηριστικών ενός οργανισμού. Χαρακτηριστικό παράδειγμα η επιθετική προώθηση των λεγόμενων «γονιδιακών θεραπειών», δηλαδή η προσέγγιση της διόρθωσης ενός ελαττωματικού γονιδίου ως πανάκεια για κάθε νόσο και η επακόλουθη αποτυχία τους. Τόσο οι πρώτες γενιές γονιδιακής θεραπείας, όσο και αυτές που τόσο αναμενόμενα αναπτύσσονται τώρα (π.χ. CrisprCas9), παρά τις μεγάλες υποσχέσεις δεν έχουν επιτύχει παρά σε ελάχιστες περιπτώσεις να προσφέρουν λειτουργικές λύσεις σε ασθένειες.
Δεν θα πρέπει να παραγνωρίζουμε όμως και τις θετικές εξελίξεις και την προώθηση της γνώσης που έχει προσφέρει η γονιδιωματική επανάσταση, η χρήση μεγα-δεδομένων και η εφαρμογή σύγχρονων υπολογιστικών μεθόδων ανάλυσης σε αρκετά πεδία. Ενδεικτικά, η πιο επιτυχημένη και ελπιδοφόρα εξέλιξη βρίσκεται στο πεδίο της διαγνωστικής και ιδιαίτερα στην περίπτωση ανάπτυξης πολλών τεστ πρόγνωσης διάφορων τύπων καρκίνου.
Όμως, ακόμα και σε αυτό το παράδειγμα, η γονιδιακή οπτική είναι συμπληρωματική, δηλαδή αποτελεί μέρος της εξήγησης του φαινομένου. Φαίνεται όλο και περισσότερο ότι οι αποσπασματικές προσεγγίσεις αγνοούν αυτό που τελικά προκαλεί την πολυπλοκότητα των έμβιων συστημάτων, δηλαδή η συνεχής αλληλεπίδραση των διαφορετικών στοιχείων του οργανισμού μεταξύ τους και η ανατροφοδότηση με το περιβάλλον.
Τα αδιέξοδα της αναγωγικής μεθόδου έχουν οδηγήσει, όπως αναφέραμε και προηγουμένως, σε έναν επαναπροσδιορισμό της κυρίαρχης αντίληψης στη βιολογία. Σε αυτή τη «συστημική» προσέγγιση μεγάλο ρόλο παίζει η προσπάθεια εύρεσης σημαντικά επαναλαμβανόμενων προτύπων (patterns) στην ανάλυση των δεδομένων. Το πεδίο αυτό επανακαθορίζει τη σχέση της βιολογίας με τα μαθηματικά.
Αλληλεπιδράσεις δυο φαινομενικά απομακρυσμένων κόσμων
Οι εξελίξεις που περιγράψαμε τοποθετούν τη βιολογία ως ένα ελκυστικό αντικείμενο στο πεδίο των διεπιστημονικών προσεγγίσεων με όλες τις φυσικές επιστήμες (φυσική, χημεία), αλλά με βασικούς άξονες τα μαθηματικά και την πληροφορική. Αυτό το γεγονός, εκτός από μια σύγχρονη επιστημονική αναζήτηση, αποτελεί πλέον και στόχο ερευνητικών πολιτικών. Και σε αυτό το σημείο πάντα το ερώτημα που βάζουν κρατικοί φορείς, επιχειρήσεις και μεγάλη μερίδα ερευνητών είναι «τι σχέση έχουν όλα αυτά με την πραγματική ζωή (real-life applications);». Είναι περιττό να αναφερθεί, ότι αυτές οι εφαρμογές αφορούν πρώτα και κύρια την άμεση κερδοφορία και πιέζουν συνεχώς προς αυτή την κατεύθυνση, μέσω και της επιλεκτικής χρηματοδότησης των ερευνητικών προγραμμάτων. Άλλωστε, έχει αποδειχθεί ότι διάφορες τεχνικές, ακόμα και σε πρώιμο στάδιο, μπορούν να «πουλήσουν καλά» δημιουργώντας φούσκες, χωρίς απαραίτητα να βασίζονται σε κάποια συνεκτική θεωρία ή και αποτελέσματα. Βέβαια, αυτή η επιθετική τακτική κερδοφορίας δεν αποτελεί μοναδικό σκοπό της καπιταλιστικής ανάπτυξης, καθώς συμπληρωματικά χρηματοδοτείται και μέρος της βασικής έρευνας αποσκοπώντας σε ιδεολογικά οφέλη, αλλά και στη σχετικά μακροπρόθεσμη κερδοφορία.
Μιλώντας για μαθηματικοποίηση της βιολογίας, στο μυαλό όλων έρχονται αναλογίες με τη σχέση μαθηματικών-φυσικής. Η φυσική ήδη από την εποχή του Νεύτωνα (Newton) μεταμορφώθηκε από περιγραφική σε αυστηρή επιστήμη, γεγονός που εδραιώθηκε στις αρχές του 20ού αιώνα. Η σχέση αυτή ήταν και είναι αμφίδρομη˙δεν άλλαξε μόνο η φυσική ως επιστήμη, αλλά παράλληλα διαμορφώθηκαν και καινούργια μαθηματικά πεδία που μπόρεσαν να προσαρμοστούν στην περιγραφή φυσικών μοντέλων (το παράδειγμα pure vs. applied μαθηματικών).
Σήμερα η ανάγκη και το ερώτημα για μια παρόμοια μετατροπή της βιολογίας είναι εγγεγραμμένα στα επιστημονικά προγράμματα των περισσότερων πανεπιστημίων και ερευνητικών ιδρυμάτων. Η ποιοτική αλλαγή είναι ότι πλέον οι μετασχηματισμοί αυτοί σήμερα περιέχουν εκ των πραγμάτων και μια τρίτη πλευρά, αυτήν της επιστήμης των υπολογιστών και της πληροφορικής.
Η επίδραση των μαθηματικών στην πληροφορική, και το αντίστροφο, έχει επίσης επιταχυνθεί τα τελευταία χρόνια. Αν και πιο προφανής, θα μπορούσε και αυτή να αποτελέσει υλικό για ένα ολόκληρο άρθρο, οπότε θα περιοριστούμε στο πώς συμπληρώνεται με τα μαθηματικά ως «εξωγενής» παράγοντας εμβάθυνσης των βιολογικών φαινομένων. Και αν η μαθηματικοποίηση είναι έντονο φαινόμενο τα τελευταία χρόνια στη βιολογική έρευνα, η βιοπληροφορική είναι εδώ και κάποιες δεκαετίες εδραιωμένη και ικανή να παράγει ολοκληρωμένα αποτελέσματα σε διάφορους επιμέρους επιστημονικούς τομείς της βιολογίας, αλλά και να πείθει κρατικούς φορείς και επιχειρήσεις για χρηματοδότηση.
Φαινομενικά, τα μαθηματικά (μαζί και η υπολογιστική επιστήμη ως ένας εφαρμοσμένος κλάδος τους) και η βιολογία έχουν κάποια αταίριαστα χαρακτηριστικά. Από τη μία πλευρά, η επικρατούσα αντίληψη για τα μαθηματικά αυτοαναγορεύεται σε αιώνια και άφθαρτη βασιζόμενη σε ένα στέρεο αξιωματικό σύστημα, που δεν επιδέχεται παρά μόνο κατασκευαστικού τύπου προσθήκες στο οικοδόμημά της (κονστρουκτιβισμός). Από την άλλη, η βιολογία διέπεται από μια έντονη ιστορικότητα, στο κέντρο της οποίας βρίσκεται η πορεία της εξέλιξης του κάθε είδους της αλληλεπίδρασης με το περιβάλλον και το πώς αυτά έχουν εγγραφεί στον κόσμο που παρατηρούμε σήμερα. Παράλληλα, οι μεγάλες θεωρητικές διαμάχες για τη φύση των βιολογικών συστημάτων μοιάζουν να βρίσκονται μακριά σε σχέση με τη νηνεμία που διέπει τους παντοτινούς νόμους των μαθηματικών.
Η παραπάνω πρόταση, παρ’ όλο που ακόμα και για μεγάλο μέρος της επιστημονικής κοινότητας έχει βάση, είναι λανθασμένη. Τα αξιώματα των μαθηματικών δεν είναι ούτε άφθαρτα ούτε πάνω και έξω από την ιστορία. Θεμελιώθηκαν με βάση την παρατήρηση της φύσης (από τη γεωμετρία στην αρχαία Αίγυπτο μέχρι τις μη ευκλείδειες γεωμετρίες που περιγράφουν τον χωροχρόνο) και φυσικά από τις ανθρώπινες κοινωνίες και την επίδραση που είχαν σε επιστημονικά ρεύματα (στον 20ό αιώνα ο μοντερνισμός τροφοδότησε σπουδαίες μαθηματικές εξελίξεις και τροφοδοτήθηκε από αυτές). Η ιστορικότητα της βιολογίας με τη σειρά της δεν θα μπορούσε να ξεφύγει από τη διαλεκτική της κίνησης της ύλης. Όσο λάθος και αν είναι να διατέμνουμε τα διαφορετικά επίπεδα οργάνωσης της ύλης, δεν μας επιτρέπεται να αποκόψουμε, σχεδόν ιδεαλιστικά, τους βασικούς διαλεκτικούς νόμους που τα διέπουν. Η σύνδεση και η ανάπτυξη καινούργιων μαθηματικών εργαλείων (και όχι απλά μια επιφανειακή προσαρμογή όσων γνωρίζουμε) για την περιγραφή των πολύπλοκων βιολογικών συστημάτων εντάσσεται σε αυτό το πλαίσιο ενότητας και τομής με τον υπόλοιπο φυσικό κόσμο.
Καταρχάς βέβαια, η σύνδεση που περιγράφουμε δεν είναι ούτε καινούργια ούτε πρωτοφανής. Η ίδια η γενετική, όπως την θεμελίωσε ο Mendel, είναι στην πραγματικότητα προϊόν (απλών) μαθηματικών υπολογισμών στη βάση των πιθανοτήτων. Από την άλλη πλευρά, η ανάπτυξη πληθυσμιακών μαθηματικών μοντέλων όπως, για παράδειγμα, το κλασικό του θηρευτή-θηράματος από τους Lotka και Volterra, βρίσκεται στην απαρχή της θεωρίας των δυναμικών συστημάτων (προϊόν της οποίας είναι και η πολυδιαφημισμένη θεωρία του χάους).
Η ιστορική εγγύτητα βιολογίας και μαθηματικών-υπολογιστών συνεχίστηκε ακόμα πιο έκδηλα στο παράλληλο έργο ενός εκ των μεγαλύτερων μαθηματικών του 20ού αιώνα –και πρωτεργάτη της επιστήμης των υπολογιστών– Alan Turing (Άλαν Τούρινγκ), η θεωρητική δουλειά του οποίου προσέφερε δυο βασικές θεμελιακές θεωρίες και στις δύο αυτές διαφορετικές επιστήμες. Η πρώτη στην επιστήμη των υπολογιστών με την περιγραφή και κατασκευή της μηχανής Τούρινγκ (Turing machine) και η δεύτερη στη μορφογένεση με το μοντέλο της ανάπτυξης μοτίβων (Turing patterns) στη μορφογένεση των οργανισμών. Οι μηχανές Τούρινγκ ουσιαστικά αποτελούν τη θεωρητική εκείνη κατασκευή που έχει καθολική ικανότητα να υπολογίζει, μια έννοια που οδήγησε στην κατασκευή ηλεκτρονικών υπολογιστών. Τα μοτίβα Τούρινγκ πρόσφεραν μια πρωτοποριακή θεωρητική οπτική στο φαινόμενο της μορφογένεσης, το πώς δηλαδή από ένα σύνολο αδιαφοροποίητων κυττάρων προκύπτει η ανάδυση μιας ετερογένειας με τη μορφή επαναλαμβανόμενων μοτίβων όπως, για παράδειγμα, στις κηλίδες της λεοπάρδαλης ή στις γραμμές στο τρίχωμα μιας γάτας.
Πιο σύγχρονα σε εμάς είναι τα παραδείγματα για την ανάπτυξη νέων μεθόδων ανάλυσης δεδομένων και νέων αλγορίθμων βελτιστοποίησης που αναφέρονται στα βιολογικά συστήματα. Χαρακτηριστικά αναφέρουμε το πιο γνωστό παράδειγμα, αυτό των τεχνητών νευρωνικών δικτύων, που εμπνεύστηκαν από την προσπάθεια μοντελοποίησης της λειτουργίας του πιο πολύπλοκου οργάνου στον έμβιο κόσμο: του εγκεφάλου και του νευρικού συστήματος των ζώων. Η συγκεκριμένη μέθοδος αναδεικνύει τόσο τις προοπτικές χρησιμοποίησης παραδειγμάτων από τη βιολογία για την ανάπτυξη υπολογιστικών μεθόδων, όσο και μια ψευδή οπτική, καθώς η αναπαράσταση του φαινομένου της εγκεφαλικής λειτουργίας είναι εντελώς απλουστευμένη και εντέλει αφελής και λανθασμένη.
Τα παραδείγματα δεν σταματούν εκεί. Στην επιστήμη των υπολογιστών υπάρχει ένα ολόκληρο πεδίο έρευνας, που ονομάζεται «biologically inspired computing», και μελετά και αναπτύσσει αλγορίθμους που στηρίζουν την ικανότητά τους να λύνουν προβλήματα αντλώντας ιδέες και φορμαλισμούς από παραδείγματα βιολογικών συστημάτων. Για παράδειγμα, εξελικτική υπολογιστική, γενετικοί αλγόριθμοι και γενετικός προγραμματισμός, βελτιστοποίηση με αποικίες μυρμηγκιών, μορφογενετικοί αλγόριθμοι αποτελούν απευθείας προσπάθειες μιμητισμού διαφόρων τεχνικών που έχουν αναπτύξει πολλά βιολογικά συστήματα για να βρίσκουν λύσεις στα προβλήματα που θέτει η επιβίωση σε πολύπλοκα περιβάλλοντα.
Τέλος, η σύγχρονη έρευνα στη βιολογία έχει αναδείξει πτυχές των βιολογικών συστημάτων που παρουσιάζουν αξιοσημείωτη ακρίβεια (π.χ. οι κιρκαδιανοί ρυθμοί οι οποίοι είναι αυστηρά καθορισμένοι στις 24 ώρες), η υπολογιστική ικανότητα των νουκλεοσωμάτων (π.χ. η ακριβέστατη μέτρηση του συνδυασμού ημερών και θερμοκρασίας που απαιτείται για την άνθηση), αλλά και ικανότητες που προσιδιάζουν σε εκτέλεση υπολογιστικών προγραμμάτων (π.χ. συμπεριφορές προνοητικότητας ακόμα και πολύ απλών οργανισμών χωρίς καν νευρικό σύστημα, όπως στα βακτήρια ή ακόμα και σε υποκυτταρικό επίπεδο). Και βέβαια, δεν πρέπει να παραμελούμε τις έρευνες για υπολογιστές με αρχιτεκτονική βασισμένη στο DNA, εντελώς διαφορετική από αυτή του πυριτίου, που υπόσχονται εκτόξευση της υπολογιστικής ικανότητας.
Οι ιδέες αυτές δίνουν νέους ορίζοντες σε εν πολλοίς αχαρτογράφητα νερά, αλλά εγείρουν και νέα φιλοσοφικά, κοινωνικά ερωτήματα και επιστημονικά ερωτήματα.
Το επιστημολογικό πρόβλημα
Σε ένα πιο αφαιρετικό επίπεδο, το ερώτημα της μαθηματικοποίησης βιολογικών λειτουργιών είναι πιο επίκαιρο από ποτέ. Ειδικότερα, η ανάπτυξη της θεωρίας πιθανοτήτων (που συνδέεται και με την ανάλυση μεγάλου όγκου δεδομένων, αλλά και στη μοντελοποίηση διαδικασιών διάχυσης στο εσωτερικό των οργανισμών και τα εξελικτικά μοντέλα) φαίνονται να ανοίγουν προοπτικές για τη μετατροπή της βιολογίας σε μια πιο φορμαλιστική επιστήμη.
Από τη μία πλευρά, αυτή η εξέλιξη δίνει τη δυνατότητα ανάπτυξης νέων εργαλείων και εφαρμογών. Ήδη η εφαρμογή τους σε πεδία, όπως η νευροαπεικόνιση, έχουν προωθήσει το επίπεδο τόσο στη βασική έρευνα όσο και στη θεραπευτική. Επιπλέον, μπορούμε να αισιοδοξούμε και για μια πιο συνεκτική θεωρία των βιολογικών συστημάτων. Ήδη αναφερθήκαμε στην αυξανόμενη επιρροή της θεωρίας πιθανοτήτων. Θα μπορούσε μια τέτοια σύνδεση να προκαλέσει την αποδόμηση ή/και τον επαναπροσδιορισμό του μέχρι πρότινος προελαύνοντος ντετερμινισμού; Το παραπάνω ερώτημα δεν έχει μόνο φιλοσοφικό-επιστημολογικό ενδιαφέρον καθώς ιστορικά η ντετερμινιστική σύνδεση DNA-οργανισμού έχει οδηγήσει πολλές φορές στην ανάπτυξη και στην επιστημονική «θωράκιση» πολλών ρατσιστικών αντιλήψεων.
Από την άλλη πλευρά, δεν πρέπει να οδηγούμαστε με μια ευκολία σε «απογειωμένα» μοντέλα και ούτε να περιμένουμε μια ιστορική επανάληψη του παραδείγματος της φυσικής. Και αυτό λειτουργεί και προς τις δύο κατευθύνσεις, δηλαδή τις ιδέες που μπορεί να δώσει η βιολογία στα μαθηματικά. Αναφερθήκαμε στο παράδειγμα των νευρωνικών δικτύων. Είναι πολύ σημαντικό να καθορίζονται το λεξιλόγιο και οι κώδικες για να αποφεύγονται ανθρωπομορφικές συγχύσεις. Η προσπάθεια της κυρίαρχης ιδεολογίας να προσδώσει ανθρώπινα χαρακτηριστικά σε φαινόμενα των φυσικών επιστημών δεν έχει μόνο ερμηνευτικό χαρακτήρα, αλλά επιβάλλει με όλους τους τρόπους την πεποίθηση ότι οι σημερινές καπιταλιστικές σχέσεις έχουν «βιολογική υπόσταση» και ως εκ τούτου είναι αιώνιες. Ακούμε για εγωιστικά γονίδια, έξυπνες μηχανές, σωματίδια που έχουν βούληση και παίγνια στη συμπεριφορά των ζώων.
Παράλληλα, η μηχανιστική αντίληψη, δηλαδή η περιγραφή και αναπαράσταση βιολογικών οντοτήτων ως μηχανών εκφράζει την ανάγκη προσομοίωσης των πάντων με τα ίδια πρότυπα. Είναι χαρακτηριστικές οι αναφορές τόσο στην καθημερινή μας γλώσσα, αλλά όσο και σε συγγράμματα και στην επιστημονική βιβλιογραφία εννοιών, όπως «γενετική πληροφορία», «γενετικός κώδικας», «κώδικας του DNA», «αποκρυπτογράφηση του γονιδιώματος», «ρυθμιστικά προγράμματα» κ.ο.κ. Η σχέση αυτή καταδεικνύει τη διπλή υπόσταση που έχουν στην πραγματικότητα τα βιολογικά συστήματα, δηλαδή αποτελούν πέρα από το σύνολο των μορίων τους και το σύνολο των σχέσεων και αλληλεπιδράσεών τους με το περιβάλλον. Εξίσου, όμως, υπογραμμίζει και ένα υπόγειο πρόβλημα, αυτό της πεπερασμένης δυνατότητας και πολυπλοκότητας των εργαλείων και κατασκευών που παρατάσσει ο τεχνητός, ανθρώπινος κόσμος για να κατανοήσει τον έμβιο. Πάνω σε αυτή την αδυναμία πατάει και χτίζει καινούργιους μετασχηματισμούς παραγωγικών δυνάμεων ο καπιταλισμός όπως θα σχολιάσουμε στη συνέχεια. Η υπέρβαση αυτών των αντιλήψεων, ακόμα και στο πλαίσιο του λεξιλογίου, είναι αναγκαία για την ανάπτυξη μιας απελευθερωτικής οπτικής.
Μια τελευταία διάσταση του επιστημονικού προβλήματος της βαθύτερης κατανόησης των βιολογικών φαινομένων γίνεται ολοένα και πιο ορατή όσο μεγαλώνει ο όγκος των πειραματικών δεδομένων. Η συλλογή μεγάλου όγκου δεδομένων από μόνη της, εκτός του ότι δεν είναι αρκετή, μπορεί να οδηγήσει πολλές φορές σε παράδοξα αποτελέσματα, όταν για την πρόβλεψη ενός βιολογικού φαινομένου χρησιμοποιούνται αποκλειστικά «τυφλοί» στατιστικοί αλγόριθμοι συσχέτισης και «ανακάλυψης» μοτίβων από αλγόριθμους και μηχανές που «μαθαίνουν» από τα διαθέσιμα δεδομένα και μόνο (statistical learning). Χωρίς την ενσωμάτωση δομημένης γνώσης σε όποια μαθηματικά και υπολογιστικά μοντέλα, η ερμηνευτική τους δυνατότητα και η ικανότητά τους για πρόβλεψη θα παραμείνουν στα ίδια επίπεδα που έχουν μείνει εδώ και δεκαετίες.
Το πρόβλημα της ανάπτυξης των παραγωγικών σχέσεων
Το διακύβευμα της αλληλεπίδρασης βιολογίας-μαθηματικών-υπολογιστών δεν θα ήταν δυνατό να αφορά μόνο τη θεωρία της επιστήμης. Ο ολοκληρωτικός καπιταλισμός στοχεύει και σε αυτό τον τομέα στην πλήρη ανάπτυξη της κερδοφορίας του. Η έρευνα άλλωστε δεν θα μπορούσε να ξεφύγει από τον τόνο που δίνει η λογική του επιχειρηματικού πανεπιστημίου. Η τάση δεν αφορά μόνο τις start-up εταιρείες, αλλά και συνολικά τη σύγχρονη στρατηγική του κεφαλαίου και των ολοκληρώσεών του. Δεν είναι τυχαίο ότι η ΕΕ χρηματοδοτεί αφειδώς προγράμματα που υπόσχονται άμεση σύνδεση με αυτό που ονομάζουν στα γραπτά τους «πραγματικό κόσμο», δηλαδή τις ανάγκες της αγοράς για άμεσα κέρδη. Αν και διακηρυκτικά η ανάγκη μιας μεγάλης αφήγησης παραμένει στόχος, υποβαθμίζεται συστηματικά, δίνοντας τη θέση της στην αναρχία της παραγωγής, μεταφέροντας παραδείγματα που παλιότερα ήταν πιο έντονα στη βιομηχανία.
Σε αυτά τα (διόλου περίεργα στο καπιταλιστικό πλαίσιο) φαινόμενα συμβάλλει και το γεγονός ότι η επιστημονική έρευνα έχει υποστεί έναν μεγάλο μετασχηματισμό τις τελευταίες δεκαετίες και αποτελεί αυτή η ίδια πλέον καταναλωτικό αγαθό, δηλαδή η κατανάλωση και αναπαραγωγή επιστημονικής πληροφορίας είναι προϊόν από μόνες τους. Η δημοσιοποίηση επιστημονικών επιτευγμάτων και η προπαγάνδισή τους δημιουργεί κλίμα, προσελκύει πιθανούς πελάτες, είτε φοιτητές για τα πανεπιστήμια είτε εταιρείες στα ερευνητικά κέντρα που την ανακοίνωσαν. Όλοι οι μεγάλοι ερευνητικοί οργανισμοί έχουν πλέον γραφεία δημοσίων σχέσεων και Τύπου τα οποία απασχολούν σημαντικό κομμάτι εργαζόμενων συμπεριλαμβανομένων και επιστημόνων. Η επιστημονική γνώση κατά συνέπεια πακετάρεται κατάλληλα και προωθείται στην αγορά με τη μορφή ανακοινώσεων Τύπου και πρωτοσέλιδων τίτλων που έχουν ελάχιστη σχέση με την πραγματική ερευνητική επιστημονική εργασία. Αυτή η εικονολατρία της επιστημονικής παραγωγής θέτει σε κίνδυνο τη μελλοντική ανάπτυξη της επιστήμης καθώς δημιουργεί παρανοήσεις και καχυποψίες σε πολλά επίπεδα και απομακρύνει από τη δυνατότητα κατανόησής της τόσο το κοινό όσο και καταρτισμένους επιστήμονες.
Αυτή η στρατηγική δημιουργεί πολλές φορές καταναλωτικές ανάγκες που στην πραγματικότητα δεν υπάρχουν. Χαρακτηριστικό και πολυδιαφημισμένο παράδειγμα είναι η πλήρης αλληλούχιση του γονιδιώματος ενός ανθρώπου επί αδράς αμοιβής. Υπάρχουν ερευνητικά κέντρα και επιστήμονες που φτιάχνουν εταιρείες, οι οποίες προσφέρουν ακόμα και «διαιτητικές συμβουλές» με βάση την αλληλούχιση μεγάλου όγκου δεδομένων από το μετα-γονιδίωμα του παχέος εντέρου. Η συγκεκριμένη –πανάκριβη– υπηρεσία βρίσκει έδαφος στο ψευδές ιδεολόγημα του πλήρους καθορισμού ενός οργανισμού από το γονιδίωμά του και ως εκ τούτου δεν ανήκει στην επιστημονική παραγωγή αλλά κάπου αλλού. Ιδεολόγημα που αγνοεί εντελώς την τριπλή αλληλεπίδραση γονιδίων-οργανισμού-περιβάλλοντος.
Αλλά ακόμα και σε εφαρμογές«προϊόντα» των οποίων η χρησιμότητα είναι αδιαμφισβήτητη, το «αόρατο χέρι» της αγοράς καταφέρνει να τα σπρώχνει μακριά από τις κοινωνικές ανάγκες. Ιατρικές εξετάσεις, πρωτοποριακά προγράμματα Η/Υ ή ακόμα και επιστημονικές δημοσιεύσεις, αφού διυλιστούν με βάση την ικανότητά τους να πουλήσουν, πολλές φορές είναι μη προσβάσιμα στο ευρύ κοινό καθώς απαιτούνται μεγάλα ποσά συνδρομών για την πρόσβασή τους, ακόμα και αν η έρευνα έχει χρηματοδοτηθεί αποκλειστικά από δημόσιους πόρους.
Επιπλέον, διαχρονικά η ανάπτυξη των παραγωγικών δυνατοτήτων θα έπρεπε να μειώνει την εργασία και να απελευθερώνει τον προσωπικό χρόνο. Είναι γεγονός ότι πολλές νέες τεχνικές που βρίσκονται στο μεταίχμιο της διεπιστημονικής αυτής συνάντησης, όπως η χρήση στατιστικών μοντέλων και γρήγορων αλγορίθμων, έχουν βοηθήσει και τους ερευνητές και όσους ασχολούνται από άλλα πόστα με τις επιστήμες της ζωής να παράγουν πιο γρήγορα και καλύτερα αποτελέσματα. Αντί όμως αυτή η ανάπτυξη να απελευθερώσει τους εργαζόμενους, έχει αποτελέσει την κινητήρια δύναμη ενός σύγχρονου ερευνητικού φορντισμού και καινούργιων σχέσεων ελαστικής και κακοπληρωμένης εργασίας σε μια γραμμή παραγωγής επιστημονικών δημοσιεύσεων. Σε πολλές περιπτώσεις δε, ντύνεται και με το μανδύα ενός ανώτερου σκοπού (ειδικά στα ερευνητικά) που καλεί τους νέους επιστήμονες να δουλεύουν χωρίς αντίκρισμα για το «καλό της επιστήμης».
Συμπερασματικά, ακολουθώντας την κλασική μαρξιστική θέση περί ασυμμετρίας και προβληματικότητας της ανάπτυξης των παραγωγικών σχέσεων, το πεδίο της αλληλεπίδρασης βιολογίαςυπολογιστών-μαθηματικών αντανακλά πλήρως αυτή την κατάσταση. Η σύγχρονη φάση ανάπτυξης του καπιταλισμού μετά τη δομική του κρίση της δεκαετίας του 1970 έχει επιδράσει καταλυτικά στην ανάπτυξη της βιολογικής έρευνας και ειδικά στη διεπαφή της με τις φορμαλιστικές επιστήμες. Ο χαρακτήρας του τρόπου αναπαραγωγής του κεφαλαίου σήμερα, μέσα από τον κυκεώνα του πλέγματος των παραγώγων, έχει επιφέρει μια αντίστοιχη εικονοποίηση και στην έρευνα αιχμής. Η καθυποταγμένη στις κατά καιρούς εναλλασσόμενες τάσεις των αγορών φύση της έρευνας (π.χ. γονιδιωματική θεραπεία, συνθετική βιολογία) αντανακλά τη φύση και φάση των παραγωγικών σχέσεων την οποία διανύουμε. Χαρακτηρίζεται, λοιπόν, από ελάχιστη προσπάθεια καθολικών ερμηνειών, επικέντρωση σε κριτήρια παντελώς αντιεπιστημονικά (τεχνολογίες «disruptive») και παντελή έλλειψη χρηματοδότησης προώθησης και δημιουργίας συνεκτικών θεωριών που θα μπορούσαν να αποτελούν τον συνδετικό κρίκο μεταξύ των τριών αυτών μεγάλων πεδίων επιστημονικής κατάκτησης του ανθρώπινου πνεύματος. Συνεπώς, το πρόβλημα της σχέσης δεν εντοπίζεται και δεν θα μπορούσε να εντοπίζεται αποκομμένα στο επιστημονικό πεδίο. Η κοντόφθαλμη και κερδοσκοπική φύση με την οποία ο καπιταλισμός αντιμετωπίζει την επιστημονική έρευνα δεν επιτρέπει την ανάπτυξη σε αυτή την κατεύθυνση. Σε τέτοιο πλαίσιο δεν θα μπορέσουν ποτέ να υπάρξουν τα εφόδια εκείνα που χρειάζονται για να πραγματοποιηθεί το ποιοτικό άλμα που χρειάζονται οι βιοεπιστήμες για να προχωρήσουν προς την επίλυση της ταραχώδους σχέσης τους με τις φορμαλιστικές επιστήμες, παρ’ όλο που οι συνθήκες είναι καλύτερες από ποτέ άλλοτε.
Η σύγχρονη διαπλοκή
Μέσα στο συγκεκριμένο περιβάλλον της σημερινής ανάπτυξης και κρίσης του καπιταλισμού η αγορά παρεμβαίνει με νέους πολύ πιο επιθετικούς όρους στην επιστημονική έρευνα και τα πεδία αιχμής της βιολογίας, των υπολογιστών και της τεχνητής νοημοσύνης (artificial intelligence) είναι από τα πλέον στρατηγικά. Οι λόγοι είναι αντικειμενικοί. Η αναπαραγωγή και ο έλεγχος της υγείας του ανθρώπινου δυναμικού είναι στον πυρήνα των εκμεταλλευτικών σχέσεων παραγωγής του καπιταλισμού, αλλά δεν παύουν να αντανακλούν και τον οπορτουνιστικό χαρακτήρα που εμφανίζει ο σύγχρονος καπιταλισμός. Για παράδειγμα, το «διάβασμα» του DNA είναι κάτι που αποτελεί ένα έτοιμο προϊόν. Είναι –σχετικά– εύκολο και πλέον φτηνό να παραχθούν δεδομένα σε πολύ μεγάλο όγκο (το κόστος ολοκλήρωσης του HGP πριν 17 χρόνια ήταν 3-4 δισ. δολάρια· το κόστος σήμερα είναι γύρω στα 2.000 δολάρια). Επίσης είναι εύκολο να κατασκευάσει το πακέτο πώλησης ενός γονιδιώματος, προσθέτοντάς του διάφορες διαγνωστικές ασθενειών, «τάσεων» εμφάνισης καρκίνου και να προωθηθεί στην αγορά (π.χ. κιτ αλληλούχισης γονιδίων BRCA1-2 για τους καρκίνους του μαστού). Εύκολη η δημιουργία δεδομένων, σχεδόν όλη η βιολογική έρευνα κοντεύει να αντικατασταθεί με ένα πείραμα αλληλούχισης. Δύσκολη η εξαγωγή θεωρίας και συμπερασμάτων. Καθώς αυτά δεν είναι απαραίτητα και πάντα μετρήσιμα, δεν γίνονται εύκολα ένα ελκυστικό πακέτο ενός προϊόντος. Γι’ αυτούς τους λόγους παρατηρείται γενικότερα η τάση εστίασης σε επιστημονικές προσεγγίσεις που εστιάζουν στα δεδομένα (data driven).
Η επικράτηση των μεθόδων που στηρίζονται σε μεγάλο όγκο δεδομένων δεν είναι κάτι που εμφανίζεται μόνο στη βιολογία, είναι γενικότερη τάση αναδιάρθρωσης των πιο στρατηγικών επιστημονικών πεδίων του καπιταλισμού, μέσω της χρήσης μηχανικής μάθησης (που χρειάζεται ακριβώς αυτούς τους μεγάλους όγκους δεδομένων για να «εκπαιδεύσει» καλύτερα τους αλγορίθμους της). Στην επιστήμη των δεδομένων (data science) για να μετατρέψει αυτά τα μεγα-δεδομένα σε αναλυτικά προϊόντα που μπορεί να βελτιώσουν πολλές πλευρές της σύγχρονης παραγωγής. Η δημιουργία, κατοχή, φύλαξη και ανάλυση, λοιπόν, μεγάλου όγκου δεδομένων γίνονται ένα νέο μέσο παραγωγής από μόνο του για τον καπιταλισμό. Όποιος κατέχει τους τεράστιους όγκους των δεδομένων κατέχει και περισσότερη ισχύ. Αποτελούν μια νέα παραγωγική δύναμη και εμφανίζονται σαν ένα είδος «αποϋλοποίησης» των μέσων παραγωγής με τη δημιουργία μεγα-δεδομένων. Επιπλέον, όταν αυτά τα δεδομένα περιέχουν ευαίσθητα ιατρικά στοιχεία, ιστορικά ασθενειών και κληρονομικότητας και ο αριθμός, ο όγκος και η ευκολία πρόσκτησής τους γίνεται ολοένα και μεγαλύτερη, αλλά και η κατοχή τους γίνεται προϊόν, τότε κατανοούμε ότι η ιδιωτική κατοχή και ο έλεγχός τους δημιουργούν μια σειρά απειλών για τα κοινωνικά διακαιώματα σε δωρεάν υγεία, περίθαλψη και σύνταξη.
Η επιστημονική σκέψη και παραγωγή δεν αντικατοπτρίζει απλώς τις καπιταλιστικές σχέσεις παραγωγής ή τις όποιες σχέσεις παραγωγής αλλά είναι άμεσα διαπλεκόμενη μαζί τους. Οι τρόποι με τους οποίους εφαρμόζονται μαθηματικές και υπολογιστικές μέθοδοι στη βιολογία αντανακλούν απόλυτα την κυρίαρχη πολιτική κουλτούρα. Είναι σχέσεις καταστροφής, κοινωνικής και οικονομικής, σχέση απαξίωσης της γνώσης της επιστήμης και της αναζήτησης, σχέση που συνάδει με την αρπακτική και παρακμιακή φύση του συγχρόνου καπιταλισμού, αλλά και τις αλλαγές στην εργασία και την κρίση και απαξίωση της ακόμα και στο επίπεδο της διανοητικής εργασίας.
Κατά συνέπεια, η σχέση βιολογίας-μαθηματικών-υπολογιστών διαπλέκεται με πολύ δυσμενείς όρους με την επιβολή των επικαιροποιημένων σχέσεων παραγωγής του καπιταλισμού που παρουσιάσαμε παραπάνω. Η διαπλοκή αυτή διακινδυνεύει και μια πιθανή αποτυχία, αν όλες οι «προσδοκίες» των αγορών διαψευστούν (πράγμα όχι απίθανο). Το τίμημα μιας τέτοιας αποτυχίας θα είναι σημαντικό για την εξέλιξη της βιολογίας ως επιστήμης, αλλά και την αντίληψη για τη ζωή και τη βιολογική έρευνα στο σύνολο της κοινωνίας. Η βιολογία θα κινδυνεύει να χάσει την εμπιστοσύνη από την κοινωνία και να ξαναγυρίσει σε έναν στείρο νατουραλισμό και έναν νεοσκοταδισμό περί «υπεροχής της φύσης» και επαναφοράς μιας μεταφυσικής της «γνώσης της φύσης» που «ξέρει καλύτερα». Φαινόμενα, που παρατηρούνται σε μικρό βαθμό και στις μέρες μας, θα οξυνθούν και ενδέχεται να κυριαρχήσουν.
Επιχειρώντας ένα κλείσιμο, δεν θα πρέπει να παραμελούμε το γεγονός ότι η επιστήμη έχει μια εγγενή, διπλή απελευθερωτική δύναμη, καθώς ο ρόλος της να ερμηνεύει τον κόσμο που ζούμε και να αναδιαμορφώνει τις παραγωγικές σχέσεις, δεν μπορεί παρά να είναι μια από τις βασικές πτυχές της κοινωνικής χειραφέτησης. Από την πλευρά κάθε ανθρώπου με κομμουνιστική και απελευθερωτική απεύθυνση, δεν επιτρέπεται και δεν πρέπει να «χαρίζονται» στις αντιδραστικές δυνάμεις της κοινωνίας σύγχρονα επιτεύγματα και κατακτήσεις του ανθρώπινου πνεύματος. Ειδικά για ανακαλύψεις σε τομείς που εξελίσσονται ραγδαία, όπως αυτοί που περιγράψαμε και στους οποίους η πάλη για το ποιες δυνάμεις και με ποιους όρους θα επικρατήσουν είναι ακόμα ανοιχτή. Είναι καθήκον τόσο των μαρξιστών όσο και ευρύτερα προοδευτικών δυνάμεων να προστατεύσουν και να αναδείξουν αυτή την απελευθερωτική δυναμική της έρευνας στις φορμαλιστικές και στις επιστήμες της ζωής, ξεκόβοντάς την από τους σκοταδισμούς τόσο της κυριαρχίας των αγορών όσο και ενός στείρου και οπισθοδρομικού νατουραλισμού.
Βιβλιογραφία
Lewontin, R. (2001), Η τριπλή έλικα. Γονίδιο, οργανισμός και περιβάλλον, Αθήνα: Σύναλμα.
Morange, M. (2002), Το μερίδιο των γονιδίων, Αθήνα: Καστανιώτης.
Μπιτσάκης, Ε. (2006), Το αειθαλές δέντρο της γνώσης, Αθήνα: Άγρα.
Nature, (2011), «The human genome at ten», Editorial, τ. 464.
Knight,
W.
(χ.χ.), «The dark secrets at the heart of
AI»,
στο https://www.technologyreview.com/.
Bergstein,
B.
(χ.χ.), «The great AI
paradox»,
στο https://www.technologyreview.com/.
Greene, A.C. et al. (2015), «Adapting bioinformatics curricula for big data», στο Briefings in Bioinformatics Advance.
Anwaar,
A. & Junaid, Q.
(2016), «Big data for human
development»
in: http://blogs.biomedcentral.com/.
Marcus, G. (2017), Deep learning. A critical approach, στο: arXiv:1801.00631.
O’Neil, C. (2016), Weapons of math destruction, NY: Crown Books.
Thom, R. (1985), Μαθηματικά πρότυπα της μορφογένεσης, Αθήνα: Πνευματικός.
Longo,
G.
(χ.χ.) Mathematics and the Biological
Phenomena
στο https://www.di.ens.fr/.
Lewontin, R. (2002), Δεν είναι απαραίτητα έτσι, Αθήνα: Κάτοπτρο.
Cohen,
J. E.
(2004), «Mathematics Is Biology’s Next Microscope, Only Better;
Biology Is Mathematics’ Next Physics, Only Better», PLoS
Biology
στο https://journals.plos.org/.
Penrose, P. (1990), Ο νέος αυτοκράτορας: Νοημοσύνη, τεχνητή νοημοσύνη, νόμοι της φυσικής και υπολογιστές. Αθήνα: Γκοβόστης.
Πηγή: https://tetradia-marxismou.gr
,