Netzproblem in Frankfurt

Orginaler Blog-Post: Netzproblem in Frankfurt – Freifunk Kreis GT

Seit dem 02.04.2024 ›spinnt‹ augenscheinlich unsere 10G-Netzwerkkarte in unserem bisherigen Frankfurter Router.

TL;DR: Same shit, different day …

Leider haben wir aktuell erneut ein schon mal aufgetretenes, nie verstandenes Problem mit unserer Anbindung in Frankfurt. Seit Dienstag Nachmittag sind die Latenzen auf der 10G-Anbindung unseres alten Servers in Frankfurt massiv angestiegen, gleichzeitig steigt auch die Paketverlustrate :-( Nun sollte der Server sowieso in wenigen Wochen in den wohlverdienten Ruhestand geschickt werden, aber eben erst in ein paar Wochen …

Es wurde gestern Abend ein Neustart des Systems vorgenommen — wie sich herausstellte, hat dies aber nur kurz zu einer Normalisierung geführt.

Daher wurde die geplante Inbetriebnahme des 10G-Zugangs im neuen Standort FRA2 vorgezogen und die vier neuen Server in FRA2 und FRA3 gehen nun über den neuen Server ins Netz — leider haben die VMs aber noch die IP-Adresse des alten Servers als Default-Gateway, sodaß dies zwar für die Server, nicht aber die VMs auf ihnen, eine Verbesserung darstellt. Wir beschleunigen nun die Abschaltung des Altsystems (brick aka bgp-fra01), aber das will auch gut geplant werden, u. a. sind etliche (i)BGP-Verbindungen umzustellen und entsprechend neue Tunnel zu graben.

Kurzum: »Techniker ist informiert« ;-) Im Forum wird es ein Update geben, wenn die Umstellung vollzogen wurde.

Mierda! Host »hydra« abgeschaltet — leider hängt da unser IPMI für FRA 3 dran :frowning: Waitiing for remote hands …

Die zwei Hände reisen Dienstag auf dem Weg nach Gütersloh aus Südfrankreich an und stecken die 10G-Kabel um, setzen ein USB-Netzteil und drücken den Powerbutton …

1 Like

Ich bin am Donnerstag in Frankfurt, falls noch einmal ein Knopf gedrückt werden muss.

Das ist evtl. gut, denn die Bestätigung für meinen Zugang heute – zw. 9 und 21h – steht zur Stunde noch aus :frowning:

Different shit, different day: Ich war von ~17:15 bis ~18:00 vor Ort.

  • OpenWrt-Box (OpenVPN-Gateway für unsere 2 Server) hat nun eigenes Netzteil
  • 10G-Ports vertauscht und umkonfiguriert: Verbindung zum Community-IX weiterhin tot, Verbindung gorgan—hydra über getauschten Port tut — what the firetruck‽
  • 2x 1G gorgan—hydra gesteckt, falls 10G nicht gegangen wäre …

Tja. Da das Glasfaserkabel hydra—Community-IX-Switch tun dürfte (Link on/off wird ja erkannt), hat’s vermutlich den Billo-SFP+ aus Amazonien zerlegt. Zum Abbau der Server in FRA1 also zusätzlicher Termin in FRA2, SFP±Modul tauschen; hat noch jemand weitere Ideen?

Normality restored regarding hydra.4830.org:

This has been fixed as well:

1 Like

Die Bestands-VMs sind von brick weggezogen …

… und auch das Routing wurde gefixt (IPs von brick auf hydra umgezogen):

l2tp-fra01/02:

gw-fra03/04:


1 Like

FTR: gorgan.4830.org ist mit 10G am Switch sw-cix-h302-1 angeschlossen; dito hydra.4830.org, allerdings funktioniert dieser Link derzeit nicht. Zwischen gorgan und hydra haben wir ein 10G-DAC-Kabel, sodaß effektiv auch hydra, über gorgan, mit 10G angebunden ist.

sw-cix-h302-1 ist mit 10G an sw-cix-w19-1 angebunden, diese Anbindung teilen wir uns mit Freifunk Stuttgart und Freifunk Frankfurt.

intrepid.4830.org und manticore.4830.org sind über den 10G-Port des ISP meerfarbig an den Community-IX angebunden, beide Systeme sind aktuell über je 1G am Switch a.a7.fra1.­meerfarbig.net erreichbar. ASAP soll die Anbindung auf jeweils 10G geändert werden, die benötigten QSFP+­-Module waren nur nicht rechtzeitig zum initialen Einbau vor Ort.

Zwischen allen vier genannten Systemen haben wir vom Community-IX ein eigenes VLAN bekommen, d. h. alle vier Systeme (als auch die Altsysteme brick.4830.org und fflip-fra01.freifunk-lippe.de) können direkt miteinander kommunizieren.

Am 25.04.2024 wurden die letzten 4 Server in DUS sowie brick.4830.org und fflip-fra01.freifunk-lippe.de in FRA abgeschaltet und abgebaut. gorgan und hydra (FRA2) haben nun eine 10G-Anbindung an den Community-IX Frankfurt, hydra hat die Anbindung an den DE-CIX FRA von brick übernommen. intrepid und manticore (FRA3) sind aus technischen Gründen weiterhin auf 1G limitiert, vermutlich werden wir die 10G- durch 40G-Interfaces tauschen müssen, um über 1G hinauszukommen (›lange, traurige Geschichten über Juniper-Switch-Architekturen für 500‹).