Wenn es um Netzwerkprogrammierung geht, haben die Begriffe "Client" und "Server" nichts mit der Netzwerkstruktur zu tun. Den Client nennt man den Computer bzw. das Programm, das die Verbindung aufbaut. Der Server ist der, der sie entgegennimmt.
Du kannst Dich daher per Definition nicht mit einem "Client" verbinden.
Es gibt, wie Net-srac schon geschrieben hat, zwei Möglichkeiten:
1.
Dein Programm ist zugleich Server und Client. Jeder Rechner, auf dem das Programm läuft, kann sich mit jedem anderen Rechner, auf dem das Programm läuft, verbinden.
2.
Es gibt einen Vermittlungsserver, der die Anfragen der Clients weiterleitet. Aber auch dann verbindet sich immer nur der Client mit dem Server. Der Server kann also nichts an einen anderen Client weiterleiten, wenn der sich vorher nicht mit dem Server verbunden hat.
Mischformen sind auch möglich. Dein Ping-Beispiel fällt übrigens in die erste Kategorie, auch wenn man dabei nicht unbedingt von "Server" spricht.
Ist das ein bereits bestehender Dienst, oder hast du die Serverkomponente selbst geschrieben?