Crawler geht nicht weiter, wenn fertig mit einer URL?

Hallo zusammen,

ich arbeite gerade an einem Python-Crawler, der spezifisch für die Website beispielurl.de entwickelt wurde. Mein Ziel ist es, verschiedene Unterseiten zu crawlen, die jeweils unterschiedlichen Kategorien angehören, wie z.B. "Flaschenhersteller" und "Kartenhersteller". Der Crawler soll automatisch von einer Kategorie (z.B. beispielurl.de/Flaschenhersteller/page-1, beispielurl.de/Flaschenhersteller/page-2, usw.) zur nächsten wechseln (z.B. beispielurl.de/Kartenhersteller/page-1, beispielurl.de/Kartenhersteller/page-2, usw.), sobald alle Seiten der aktuellen Kategorie durchlaufen sind.

Leider funktioniert der Wechsel zwischen den Kategorien nicht wie erwartet. Der Crawler verarbeitet alle Seiten der ersten Kategorie korrekt, aber anstatt zur nächsten Kategorie zu wechseln, beginnt er wieder von vorn bei der ersten Kategorie, ohne die nachfolgenden Kategorien zu berücksichtigen.

Hier ist ein vereinfachter Ausschnitt meines Codes:

def process_page(self, url):
  soup = self.fetch_page_with_selenium(url)
  links = self.extract_PLZ_links(soup)

  for link in links:
    self.fetch_PLZ_details(link)

def run(self):
  try:
    for code in self.postal_codes:
      page_number = 1
      has_more_pages = True

      while has_more_pages:
        url = f"{self.base_url}/suche/-/{code}?page={page_number}"
        soup = self.fetch_page_with_selenium(url)
        links = self.extract_PLZ_links(soup)

        if links:
          for link in links:
            self.fetch_PLZ_details(link)
            page_number += 1
        else:
          has_more_pages = False
  finally:
    self.driver.quit()
    self.csv_handler.close_csv()

Hersteller = [Flaschenhersteller, Kartenhersteller, etc. ]
crawler = WebCrawler("https://beispielurl.de", Hersteller)
crawler.run()

Hat jemand eine Idee, warum der Crawler nicht zur nächsten Kategorie wechselt und wie ich dieses Problem beheben könnte? Ich bin für jeden Tipp dankbar!

HTML, Webseite, programmieren, Code, Python, Webentwicklung, crawler, Python 3
Ab wann beginnt Full-Stack Entwicklung im Webbereich und wie sieht es mit dem Gehalt aus?

Hallo liebe Community,

kurze Einleitung:

Ich bin Junior Webentwickler seit zirka 1 Jahr bei einer (relativ) kleinen Firma. Wir arbeiten viel mit Freelancer zusammen.

Ich bin mit HTML / CSS / JS eingestiegen und programmiere hier jetzt hauptsächlich über Wordpress die Websiten und Plugins.

Dazu wird bekannterweise → php genutzt. Daher geht hier Jquery, PHP, JS, MySQL, Git/hub und das Wissen in vielen bewährten Plugins und derer Programmierung für erweitere Funktionen einher.

Daher mache ich Backend und Frontend Entwicklung gleichermaßen. Das kann ich auch schon relativ gut, ich musste hier mir alles selbst beibringen und hab hauptsächlich mit Udemy und unserer tollen AI ChatGPT Hilfe mir alles beigebracht.
Die Codereviews hab ich mir von der AI machen lassen, Fehler aufzeigen, den Code bewerten und Verbesserungsmöglichkeiten zeigen.

So bin ich nun der Meinung, ein relativ solides Wissen angeeignet zu haben.
Jetzt zu meinen Fragen:

Frage 1:
Ab wann dürfte ich mich Full-Stack-Entwickler nennen? Ich hab großen Respekt vor erfahrenen Full-Stack-Entwicklern, weil da eine Menge zugehört. Aber ist es schon Full-Stack, wenn man Frontend und Backend macht?

Frage 2:
Ich arbeite in MV und bekomme noch 2600 € brutto gezahlt. Es ist noch relativ niedrig, weil ich zu Anfang viel gelernt habe, die ersten Monate, um den Anforderungen gerecht zu werden. 2400 € in den ersten 6 Monaten und bis jetzt (12. Monat) 2600.

Was wäre so eine faire Preisspanne? Die Firma gibts bald seit 10 Jahren und wir sind kein Start-up mehr. Auch läuft es gerade gut und ich konnte alle Aufgaben bewältigen, die mir seither gestellt wurden. Wenn ich auch für manche länger gebraucht habe (aber dafür bin ich ja auch ein Junior). Mich würde interessieren, wo es fair wäre? Ich möchte bald in die Gehaltsverhandlung gehen und wäre sehr dankbar über Ratschläge und eure Meinungen.

Liebe Grüße

Beruf, HTML, Webseite, programmieren, CSS, JavaScript, HTML5, Entwicklung, PHP, Programmiersprache, Webdesign, Webentwicklung, Backend, Frontend
Wie greife ich auf eine MySQL Datenbank zu?

Hallo :)

ich habe an ein neues Projekt gemacht, und bin jetzt absolut planlos.
Das ist alles ziemliches Neuland für mich, darum kann ich auch kaum googeln, weil ich die Basics nicht verstehe.
Ich habe im graphischen Interface von phpMyAdmin eine DB erstellt, inklusive Tabellen und alles - passt.

Dann habe ich einen Javascript code auf der Website, weil php ja bei jeder kommunikation zum Server die Seite neu laden muss.

Nun finde ich aber nur PHP Möglichkeiten, mit der Datenbank zu kommunizieren.

Ich habe auch von Ajax und Flask gelesen, aber habe kein plan wo ich die her bekomme, wie ich die auf dem Server installiere, oder wie ich die benutze. Oder muss man die überhaupt installieren?

Ich werde jedenfalls nicht ganz klug daraus, wie diese API's die Datenbank finden, weil in den Tutorials und Codes eigentlich nie eine url, ip, id oder auch nur der Datenbankname fällt (außer bei den PHP Sachen).

Kann mir vielleicht jemand einen Einsteiger - Crashkurs geben, damit ich zumindest einigermaßen verstehe, wie das alles funktioniert, und die Tutorials nicht komplett Bahnhof für mich sind?

Es geht um eine Anwendung zum Lernen. Man erstellt eine Lektion, diese wird in einer Tabelle gespeichert. Dann gibt man zu der Lektion Fragen und Antworten ein, diese werden in einer anderen Tabelle gespeichert. Dann soll man die Fragen in einem Textfeld beantworten, und dann mit der richtigen Antwort aus der Datenbank vergleichen können.

Danke.

SQL, HTML, IT, Webseite, programmieren, JavaScript, AJAX, Datenbank, Informatik, MySQL, PHP, Webentwicklung, API, phpMyAdmin
Bootcamp Ja oder Nein?

Hallo zusammen,

Ich bin seit dem 08.01.2024 Fachinformatiker für Anwendungsentwicklung, soweit so gut. Leider habe ich erst mit einer Umschulung begonnen, die in die Hose ging, weil das ein Umschulungsunternehmen war, das einen rein gelockt hat, um an den Bildungsgutschein zu kommen, und das war's dann auch. Dadurch bin ich durch meine Abschlussprüfung durchgefallen. Im Anschluss habe ich direkt eine Ausbildung im 3. Lehrjahr begonnen bis zur Wiederholungsprüfung.

Das Ausbildungsunternehmen hat mich netterweise direkt angenommen. Allerdings war ich der einzige Entwickler vor Ort, und mein Ausbilder war jemand, der vor über 10 Jahren eine Umschulung zum FiAe gemacht hat, dann den Ausbilderschein erworben hat und seitdem keine Zeile Code mehr geschrieben hat. Dadurch konnte er nie meine Fragen beantworten, und ich musste mir eigenständig C# und Winforms aneignen, da das Unternehmen die Arbeiten der Mitarbeiter damit automatisieren / vereinfachen wollte. Ein Jahr lang habe ich für das Unternehmen native Desktop-Apps geschrieben und war für das Updaten der Programme zuständig.

In der Ausbildungszeit merkte ich, dass mich die Web-Entwicklung immer mehr interessiert, weshalb ich nach der Abschlussprüfung einen Udemy-Kurs über Web-Entwicklung begonnen habe. Hier habe ich bereits HTML und CSS durchgearbeitet und bin aktuell bei JavaScript.

Jetzt fragt sich der ein oder andere, warum hast du nicht auf der Arbeit gelernt? Nun ja, der Betrieb war der Meinung, solange er nicht 8 Stunden am Stück Code am Tippen ist, macht er Lagertätigkeiten und befüllt die Maschinen.

Jetzt kommt die Frage auf, dann hätte man das nach der Arbeit machen können. Richtig, jedoch musste ich mir hier die Theorie reinprügeln, die für die Abschlussprüfung benötigt wird, da ich in den 2 Jahren Umschulung nichts erklärt bekommen habe. Das heißt, in dem Jahr habe ich auf der Arbeit eigenständig mir C# und Winforms angeeignet und Lager- / Maschinen-Tätigkeiten ausgeübt und nach der Arbeit für die IHK-Prüfung gelernt.

Aus diesem Grund kann ich auch die Unternehmen verstehen, die Absagen schicken, weil die sehen, ich habe nur C# und Winforms gemacht und Daten an MySQL geschickt und abgerufen "woooow".

Da das Unternehmen auch der Meinung war, dass Git "Mist" sei und nur schlechte Programmierer Fehler machen und unprofessionell sind, wenn sie damit arbeiten, durfte ich das auch nicht während der Arbeitszeit lernen. Ergo eigne ich mir das neben dem Web-Entwickler Kurs auch noch an, in dem ich mit Visual Studio Code committe und pushe. Ja, das ist bei weitem nicht das, wofür Git da ist, aber ich bin noch am Lernen. :D

__________________________

Jetzt wurde es doch wieder ein langer Text, aber nun zu meiner Frage. :D

Ich habe demnächst ein Gespräch mit dem Arbeitsamt bezüglich des Bildungsgutscheins. Sehr wahrscheinlich werde ich einen erhalten, wurde mir im letzten Gespräch gesagt. Für den Fall, dass es funktioniert, will ich nicht viel Zeit verlieren, da ich schon 30 bin und immer noch keinen Job habe.

Deshalb kamen Bootcamps für mich in Frage und wollte euch fragen, ob Ihr selbst Erfahrungen mit einem Bootcamp gemacht habt oder vielleicht jemanden kennt und ein bestimmtes Bootcamp empfehlen könnt.

Ich bedanke mich schon mal im voraus für eure Zeit die Ihr mit dem Lesen der Frage und eurer Antwort investiert habt.

Gar kein Bootcamp, weiter eigenständig lernen 100%
Bootcamp Front-End Ja 0%
Bootcamp Full-Stack Ja 0%
HTML, CSS, JavaScript, Bildungsgutschein, Bootcamp, Programmiersprache, Webentwicklung, Backend, Frontend
Kaum Erfahrung nach der Ausbildung zum Fachinformatiker für Anwendungsentwicklung. Tipps für die Zukunft?

Hallo zusammen :),

ich habe Anfang des Jahres meine Ausbildung zum Fachinformatiker für Anwendungsentwicklung erfolgreich bestanden. Leider erhalte ich trotzdem Absagen aufgrund mangelnder Praxiserfahrung.

Zu meinem Werdegang:

Ich habe zunächst eine Ausbildung zum Technischen Produktdesigner absolviert und danach erfolgreich in einem Unternehmen gearbeitet. Leider wurde ich aufgrund der Corona-Pandemie, bei der mehr als die Hälfte der Mitarbeiter entlassen wurde, ebenfalls gekündigt.

In den darauf folgenden Monaten habe ich mich beworben, jedoch aufgrund der Pandemie viele Absagen erhalten, da Unternehmen aufgrund von finanziellen Schwierigkeiten einen Einstellungsstopp hatten.

Nach Rücksprache mit dem Arbeitsamt erhielt ich einen Bildungsgutschein für eine Umschulung zum Fachinformatiker für Anwendungsentwicklung.

Im ersten Jahr der Umschulung lief alles gut, ich bestand die Abschlussprüfung Teil 1 (früher Zwischenprüfung) mit der Note 2.

Im zweiten Jahr begannen die Probleme. Die Dozentin kündigte, das Umschulungsunternehmen fand keinen Ersatz, und ich erhielt weder Lernmaterial für die IHK-Prüfungen noch wurde mir Theorie vermittelt. Stattdessen wurden Udemy-Kurse angeboten, die zwar nützlich waren, aber nicht ausreichend für die Abschlussprüfung.

Das Ergebnis war, dass ich die Abschlussprüfung aufgrund fehlenden Wissens nicht bestand.

Nach der Abschlussprüfung endete die Umschulung. Um zur Wiederholungsprüfung zugelassen zu werden, setzte die IHK voraus, dass man ein Unternehmen findet, in dem man das Projekt für die Abschlussprüfung erstellt. Nach erfolgloser Suche fand ich schließlich ein Unternehmen, welches mich als Azubi im 3. Lehrjahr eingestellt hat. Jedoch wurde ich während des Jahres in dem Unternehmen nicht ausgebildet, sondern eher als "billige Arbeitskraft" für anderweitige Aufgaben eingesetzt, abseits des Programmierens.

Mein Ausbilder war wenig hilfreich, da er selbst vor vielen Jahren über eine Umschulung zum Fachinformatiker in das Unternehmen kam und nach der Umschulung übernommen wurde, jedoch nicht als Entwickler, sondern als EDV-Mitarbeiter, der Serienbriefe usw. erstellt. Da er viele Jahre nicht mehr aktiv entwickelt hatte, konnte er mir auch nicht helfen. Daher habe ich mir eigenständig C# und WinForms angeeignet, da der Ausbilder nur Wissen in dem Bereich hatte und die Anwendungen, wenn sie gewartet werden sollten, von ihm bearbeitet werden sollten.

In der Berufsschule holte ich mir Hilfe, um die Abschlussprüfung erfolgreich zu bestehen.

Nun stehe ich vor dem Problem, dass meine Bewerbungen als Junior Developer nur Absagen erhalten, oft ohne Begründung oder mit dem Hinweis, dass meine Erfahrung nicht ausreicht.

Ich überlege, ob ich meine Kenntnisse in C# .NET 8 vertiefen soll, um in den Webentwicklungsbereich zu wechseln, oder ob ich mit HTML, CSS, JavaScript, Bootstrap, React, Node.js anfangen soll, um ein Webentwickler zu werden. Eine andere Überlegung ist die Entwicklung von Smartphone-Apps.

Ich bewerbe mich weiter und absolviere nebenbei einen Udemy-Kurs für Web Developer, um HTML, CSS und JavaScript zu lernen. Zusätzlich lade ich alles auf GitHub hoch, um auch den Umgang mit Git zu üben. Im vorherigen Unternehmen wurde Git nicht genutzt, da die Meinung vorherrschte, dass es nur von "Hirnlosen" verwendet wird und es total unnötig sei. Auf meine anmerkung, dass Git unerlässlich ist, um sauber im Team arbeiten zu können oder eine Versionskontrolle zu haben, kam nur die Antwort: "Du arbeitest nicht im Team hier."

Meine Frage an euch Erfahrene Entwickler, die eventuell sogar selbst einen ähnliche Erfahrung gemacht haben, wie soll ich weiter vorgehen um meine Zeit bestmöglich zu nutzen.

Einige Ideen hätte ich:

  1. Soll ich C# .NET 8 lernen und dann mit ASP.NET in den Webentwicklungsbereich einsteigen?
  2. Oder sollte ich mit HTML, CSS, JavaScript, Bootstrap, React, Node.js anfangen, um Webentwickler zu werden oder Browser-Apps zu erstellen?
  3. Oder doch eher Smartphone-Apps entwickeln?

Es wäre schön, wenn sich einige Entwickler aus den jeweiligen Bereichen melden und ihre Erfahrungen teilen könnten.

Ich bedanke mich im Voraus für eure Zeit und Antworten.

Ich wünsche allen einen schönen Tag! :-)

Wechsel zur Webentwicklung mit HTML, CSS, JavaScript, Node.js usw 100%
Weiter mit C# und anderen Frameworks 0%
Wechsel zur nativen Smartphone Appentwicklung (Kotlin, Swift) 0%
HTML, CSS, JavaScript, Jobsuche, Softwareentwicklung, Swift, Webentwicklung, Appentwicklung, Kotlin
Kann mir jemand bei dem TPS (Third Person shooter) Code helfen?

Hallo Ich wollte ein einfaches TPS Spiel erstellen, aber bei diesem Prototyp Zeigt es mir in VSC keinen Fehler an, aber wenn ich es mit Google oder einem Live Server öffne kommt nur eine weißer Bildschirm:

<!DOCTYPE html>
<html lang="en">

<head>
    <meta charset="UTF-8">
    <meta name="viewport" content="width=device-width, initial-scale=1.0">
    <title>Third Person Shooter</title>
    <style>
        body { margin: 0; }
        canvas { display: block; }
    </style>
</head>

<body>
    <script src="js/three.module.min.js"></script>
    <script>
        var scene, camera, renderer;
        var player, playerControls;
        var moveForward = false;
        var moveBackward = false;
        var moveLeft = false;
        var moveRight = false;

        init();
        animate();

        function init() {
            scene = new THREE.Scene();

            // Player
            var geometry = new THREE.BoxGeometry();
            var material = new THREE.MeshBasicMaterial({ color: 0x00ff00 });
            player = new THREE.Mesh(geometry, material);
            scene.add(player);

            // Camera
            camera = new THREE.PerspectiveCamera(75, window.innerWidth / window.innerHeight, 0.1, 1000);
            playerControls = new PlayerControls(player, camera);

            renderer = new THREE.WebGLRenderer();
            renderer.setSize(window.innerWidth, window.innerHeight);
            document.body.appendChild(renderer.domElement);

            document.addEventListener('keydown', handleKeyDown);
            document.addEventListener('keyup', handleKeyUp);
            window.addEventListener('resize', onWindowResize, false);
        }

        function animate() {
            requestAnimationFrame(animate);
            playerControls.update();
            renderer.render(scene, camera);
        }


        function handleKeyDown(event) {
            switch (event.key) {
                case 'w':
                    moveForward = true;
                    break;
                case 's':
                    moveBackward = true;
                    break;
                case 'a':
                    moveLeft = true;
                    break;
                case 'd':
                    moveRight = true;
                    break;
            }
        }

        function handleKeyUp(event) {
            switch (event.key) {
                case 'w':
                    moveForward = false;
                    break;
                case 's':
                    moveBackward = false;
                    break;
                case 'a':
                    moveLeft = false;
                    break;
                case 'd':
                    moveRight = false;
                    break;
            }
        }

        function onWindowResize() {
            camera.aspect = window.innerWidth / window.innerHeight;
            camera.updateProjectionMatrix();
            renderer.setSize(window.innerWidth, window.innerHeight);
        }

        // PlayerControls class to handle player movement
        function PlayerControls(player, camera) {
            this.player = player;
            this.camera = camera;
            this.speed = 0.1;

            this.update = function() {
                var movement = new THREE.Vector3();

                if (moveForward) movement.z -= this.speed;
                if (moveBackward) movement.z += this.speed;
                if (moveLeft) movement.x -= this.speed;
                if (moveRight) movement.x += this.speed;

                this.player.translateX(movement.x);
                this.player.translateZ(movement.z);

                // Update camera position and look at the player
                var offset = new THREE.Vector3(0, 5, -10);
                var playerWorldPosition = new THREE.Vector3();
                this.player.getWorldPosition(playerWorldPosition);
                this.camera.position.copy(playerWorldPosition.clone().add(offset));
                this.camera.lookAt(playerWorldPosition);
            };
        }
    </script>
</body>

</html>


HTML, JavaScript, Visual Studio Code
DE Sonderzeichen Fehler in HTML?

Hi,

ich sitze momentan an einer Datei, um ein paar Dinge auszuprobieren. Ich habe die Meta-Tags wie gewohnt aus einer anderen (funktionierenden) Datei kopiert.

Nun werden allerdings ausschließlich in meiner Datei die Umlaute wie Ä,Ö,Ü und ß mit

"�"

angezeigt. Auch das rein-kopieren Tags aus anderen Dateien, oder das entfernen des Stylesheets hat nix geändert. Kurzzeitig hatte ich auch den Meta-Tag:

<meta http-equiv="content-language" content="de" />

mit reingenommen, allerdings ohne Erfolg oder Veränderungen. Auch das Debugging von W3C hat nix auffälliges gefunden:

Für alle helfenden Hände großes Danke!

<!doctype html>
<html lang="de">
  <head>
    <meta charset="utf-8">
    <meta name="viewport" content="width=device-width, initial-scale=1.0">
    <meta name="keywords" content="example, html, head, meta">
    <link rel="shortcut icon" type="image/x-icon" href="favicon.ico">
    <link rel="stylesheet" type="text/css" href="formate.css">
    <title>Das Box-Modell</title>
  </head>


<body>
  <header>
      
    <div class="flex">
     <img src="bilder/logo.svg" alt="logo">
    </div>
    
     <h1>Wilkommen auf der Test-Seite!</h1>
     <nav>
              <a href="#link_1.html">Blog</a>
              <a href="#link_1.html">Unterseite 1</a>
              <a href="#link_1.html">Unterseite 2</a>
              <a href="#link_1.html">Kontakt</a>
     </nav>
          
    </header>
      
      <main>
          
          <h2>ÜÜÜCCS-basierte Layouts <br><br />HTML-Struktur ohne CSS</h2>         
          
      </main>
    
    
    
    <footer>
     <a href="kontakt.html">Kontakt</a>
     <p>&copy; 2024 by GTA1A</p>
    </footer>


</body>
</html>
Bild zum Beitrag
HTML, Webseite, CSS, HTML5, Code, Programmiersprache, Webdesign

Meistgelesene Fragen zum Thema HTML