Chúng ta đã biết ghi chép của Lenin năm 1922: "Người ta đã nói về phát minh của người Anh trong lĩnh vực điện báo vô tuyến có thể bí mật phát đi các bức điện vô tuyến. Nếu mua được phát minh này thì liên lạc điện báo vô tuyến và điện thoại vô tuyến sẽ có ý nghĩa lớn hơn nữa đối với quân sự".

Đồng thời với việc hoàn thiện mật mã, Liên Xô bắt đầu tích cực tiến hành nghiên cứu mã thám ứng dụng. Mối quan tâm này của Nhà nước Xô-viết đối với các hệ mã nước ngoài đã được thể hiện rõ nhất trong hoạt động bất hợp pháp của Uỷ ban Đặc biệt toàn Nga về đấu tranh chống phản cách mạng và phá hoại VChK (tiền thân của KGB sau này) được thành lập vào năm 1918. Ban đầu, trong các chức năng của cơ quan này có chức năng kiểm soát điện tín liên lạc của nước ngoài. Ngay vào nửa đầu thập niên 1920, tại Moskva đã có các sứ quán và phái bộ thương mại của Anh, Afghanistan, Đức, Iran, Italia, Ba Lan, Thổ Nhĩ Kỳ và các nước vùng Pribaltic. Bản sao các bức điện mật mã mà nhân viên các sứ quán và phái bộ này gửi đi từ trung tâm điện báo Moskva nhất định được đưa đến VChK. Một phần điện tín mật mã ngoại giao, cũng như các bức điện vô tuyến mật mã của bạch vệ được chặn thu tại trạm vô tuyến điện quân sự ở ngoại ô Moskva và trạm vô tuyến điện Shabolovskaya ở Moskva.

Các bức điện mật mã chặn thu được gửi đến VChK để giải mã. Ngày 5 tháng 5 năm 1921, theo nghị định của chính phủ Xô-viết, một cơ quan cơ yếu được gọi là Phòng Đặc biệt đã được thành lập trong VChK. Do vai trò đặc biệt của Phòng Đặc biệt, cũng như ảnh hưởng rất lớn trong lãnh đạo đảng của vị trưởng phòng nên đơn vị này trên thực tế không trực thuộc ban lãnh đạo các cơ quan an ninh nhà nước, mà thuộc quyền chỉ đạo của đảng. Nhờ thế mà dù có nhiều cuộc cải tổ trước chiến tranh đối với các cơ quan này, nhưng Phòng Đặc biệt vẫn nằm ngoài các bộ ngành, tức là có sự độc lập. Nhân viên các đơn vị Cheka khác có thái độ ngờ vực đối với Phòng Đặc biệt bởi vì "ở đó, người ta không bắt giữ và thẩm vấn một ai".

Cùng với việc thành lập Phòng Đặc biệt, ngày 25 tháng 8 năm 1921, VChK đã ban hành mệnh lệnh yêu cầu tất cả các đơn vị ở trung ương và địa phương phải gửi mọi loại mật mã, khoá mã và điện mật mã phát hiện được trong các cuộc lục soát và bắt giữ, cũng như thu được qua điệp viên hay thu được tình cờ đều phải gửi cho Phòng Đặc biệt.

Phòng Đặc biệt bắt đầu hoạt động từ việc nghiên cứu chi tiết hồ sơ lưu trữ của các cơ quan mã thám của nước Nga trước cách mạng, trong đó còn lưu giữ các mật mã và tài liệu hướng dẫn sử dụng chi tiết, mô tả các phương pháp giải mã và các tài liệu chặn thu. Trong số các tài liệu lưu trữ đó có cả bản sao và bản thật các loại mật mã của Bulgaria, Đức, Trung Quốc, Mỹ và Nhật Bản, các báo cáo về hoạt động giải phá chúng, các loại giáo trình. Các nhân viên của Phòng Đặc biệt nghiên cứu kỹ lưỡng các tài liệu này và thấy hết được tầm quan trọng của công việc này. Trong thời kỳ này, điều có ý nghĩa quan trọng là các kiến thức và kinh nghiệm của các chuyên gia mật mã lâu năm. Với sự tham gia tích cực của họ, Phòng Đặc biệt đã tổ chức các khoá học nửa năm để giảng dạy kiến thức mật mã căn bản, học các bài học mã thám. Tham dự các khoá học là những người có năng lực và trình độ. Số học viên tốt nghiệp đầu tiên các khoá học là 14 người, gần như một nửa số đó chuyển đến làm việc cho Ban Mã thám của Phòng Đặc biệt, số còn lại được tăng cường cho các đơn vị của nó.

Ngoài những khó khăn mà Phòng Đặc biệt gặp phải trong những năm hoạt động đầu tiên do mặt bằng đào tạo khá thấp của các nhân viên và thiếu người, còn những khó khăn do tài liệu để mã thám thiếu và chất lượng thấp. Máy thu vô tuyến điện không hoàn thiện, máy móc thiếu và quá cũ không thể bảo đảm độ chính xác cao cho điện văn của các bức điện mật mã chặn thu được. Nhiệm vụ tổ chức và thu xếp hoạt động của tất cả các bộ phận của cơ quan mã thám, kể cả thu thập các tài liệu mật mã và trang bị kỹ thuật cho các trạm chặn thu được đặt ra trước lãnh đạo Phòng Đặc biệt.

Bất chấp khó khăn, ngày từ những tháng tồn tại đầu tiên của mình, Phòng Đặc biệt đã bắt đầu tiến hành mã thám thành công các mật mã của nước ngoài. Họ giành được thành công đầu tiên khi "nghiên cứu" loại mật mã ngoại giao của Đức mà đại diện toàn quyền của chính phủ Đức ở Moskva sử dụng. Kể từ tháng 6 năm 1921, toàn bộ điện tín liên lạc mật mã trên kênh Moskva-Berlin đã bị giải mã tại Phòng Đặc biệt. Trong tháng 8 cùng năm, họ đã giải mã được các bức điện ngoại giao của Thổ Nhĩ Kỳ. Việc giải phá các mật mã của Ba Lan đã có các kết quả thực tiễn vào năm 1924, ba năm sau Phòng Đặc biệt bắt đầu đọc được các điện tín mật mã của Nhật Bản, còn sau ba năm nữa đến lượt điện tín mật mã của Mỹ.

Cuối thập niên 1920, các nhân viên của Phòng Đặc biệt đã tham gia tích cực vào việc tổ chức hoạt động mã thám trong Hồng Quân. Nhờ các nỗ lực này, một đơn vị tình báo vô tuyến điện tử kết hợp của OGPU (một trong những tên gọi viết tắt của KGB) và Cục 4 - Bộ Tổng tham mưu Hồng Quân đã được thành lập trong Phòng Đặc biệt vào đầu thập niên 1930.

Từ năm 1921 đến 1937, Trưởng Phòng Đặc biệt là Gleb Ivanovich Boky. Boky sinh năm 1879 trong gia đình một nhà giáo Ucraina. Là đảng viên từ năm 1900, tham gia các cuộc cách mạng năm 1905 và 1917, ông đã 12 lần chịu án trong các nhà tù sa hoàng và hai lần bị đi đày ở Siberia. Năm 1896, Boky vào học Đại học Mỏ ở St. Petersbourg. Do nhiều lần bị bắt và đi đày, Boky không được nhận bằng sau khi chỉ hoàn thành bốn năm học ở trường này. Tuy nhiên, nhờ trình độ giảng dạy cao của các môn học ở Đại học Mỏ, đặc biệt là toán và lý, nên ông đã thu lượm được những kiến thức sâu sắc. Ngoài ra, là một trong những nhà lãnh đạo của lực lượng bí mật ở Peterbourg trong 20 năm nên Boky có nhiều kinh nghiệm tổ chức, tập hợp quanh mình một nhóm những người tin cậy và hiểu biết.

Boky vào làm việc ở VChK theo lời mời riêng của chủ tịch VChK  đầu tiên Dzerzhinsky. Cuối tháng 8 năm 1919, theo lệnh của Dzerzhinsky, Boky đã lãnh đạo lực lượng Cheka ở Petrograd (tên khác của St. Peterbourg) thay cho M.S. Uritsky bị giết.

Người ta đánh giá khác nhau về con người này. Một số trong đó phác hoạ Boky như một người u sầu và bị giày vò bởi những dục vọng tội lỗi. Một số khác tuy không phủ nhận Boky có những điểm yếu và khuyết điểm, nhưng lại tin vào sự trung thực, thẳng thắn, điều đã khiến Boky nằm trong lực lượng đối lập với Stalin ngay từ giữa thập niên 1920 và nằm trong số những nạn nhân đầu tiên của các cuộc thanh trừng đối với các cơ quan an ninh.

Phòng Đặc biệt còn đảm nhiệm các vấn đề mã hoá, cũng như mã thám. Năm 1933, các nhân vien cơ yếu làm việc trong một phòng lớn ở tầng 4 của toà nhà ở Lubyanka, trụ sở của OGPU. Các nhân viên mã thám chiếm giữ tầng cao nhất của toà nhà cũ của Bộ Dân uỷ Ngoại giao ở góc ngã tư các phố Bolshaya Lubyanka và Kuznetsky Most. Các hộ tư nhân được bố trí ở tầng dưới của toà nhà để làm bình phong cho Phòng Đặc biệt. Năm 1935, cả các nhân viên cơ yếu lẫn các các chuyên gia mã thám đều chuyển sang toà nhà mới của NKVD trên phố Bolshaya Lubyanka, lúc đó đã được đổi tên là phố Dzerzhinsky.

Quân số của Phòng Đặc biệt gồm quân số chính thức và mật. Quân số mật là các chuyên gia mật mã và phiên dịch viên mà Phòng Đặc biệt gọi là "chuyên viên" và "phiên dịch viên". Quân số công khai là các thư ký, giao thông viên và nữ nhân viên đánh máy. Năm 1933, quân số công khai của Phòng Đặc biệt là 100 người, quân số bí mật là 89.

Trong thập niên 1930, Phòng Đặc biệt trở thành một trong các cơ quan tình báo vô tuyến điện tử được trang bị kỹ thuật lớn nhất thế giới. Phòng Đặc biệt đã phối hợp chặt chẽ với OGPU và Cục 4-Bộ Tổng tham mưu - hai cơ quan này đã theo gương cơ quan mật thám sa hoàng coi việc thu thập điện tín mật mã là một trong những ưu tiên chính của mình.

Ban Mã thám của Phòng Đặc biệt được chia theo nguyên tắc địa lý và ngôn ngữ thành các phân ban: Trung Quốc, Anh-Mỹ... Ban này hoạt động khá hiệu quả vì thế các nhân viên của Ban thường được công nhận là chiến sĩ thi đua xã hội chủ nghĩa trong OGPU.

Nổi bật trong Ban mã thám là Ivan Kalinin. Ông thỉnh thoảng đến chỗ các các chuyên gia mã thám để bàn bạc với họ và vị giáo sư già nhưng đầy sức lực Shungsky, người từng phục vụ trong quân đội sa hoàng và là chuyên gia ngôn ngữ chính của phân ban Nhật Bản. Ngoài họ, Phòng Đặc biệt còn có nhiều người thú vị và phi thường khác, trong đó có một người Đức để râu dài chấm đất, một phụ nữ rất yêu những gì là Nhật Bản đến mức cứ ở nhà là mặc kimono. Tổ công đoàn của Phòng Đặc biệt do một cựu chuyên gia mã thám của Nha Cảnh sát sa hoàng, người từng đọc điện tín mật mã của Lenin thời trước cách mạng, lãnh đạo. Ngoài ra, còn có con gái một giáo sư về Nhật Bản, người đã bị bắt trong thập niên 1930 vì bị buộc tội là tổ trưởng một lưới tình báo Nhật trong nhiều năm ở Moskva. Trong số cán bộ của Ban Mã thám của Phòng Đặc biệt còn có nhiều quý tộc Nga, trong đó có các các cựu bá tước và nam tước. Sở dĩ, người ta có thái độ bao dung trái hẳn với thái độ chung đối với "những kẻ thuộc chế độ cũ" thời đó như thế là do quá thiếu các nhà ngôn ngữ cần cho công tác mã thám. Còn người có chuyên môn mã thám hiếm đến nỗi kể cả khi họ bị vào tù cũng được huy động làm việc theo chuyên môn. Chẳng hạn Vladimir Krivosh-Nemanich, người một thời từng giữ cương vị khá cao trong cơ quan mã thám của Nha Cảnh sát sa hoàng. Thời Xô-viết, ông đã nhiều lần bị bắt vì từng là nhân viên cơ quan ác ôn của kẻ thù là mật vụ sa hoàng Okhrana. Nhưng khi ở tù tại nhà tù Butyrskaya, ông đã thực hiện nhiệm vụ của Phòng Đặc biệt và một vị trưởng phân ban của Ban mã thám đã đem việc làm "tại nhà" đến cho ông ngay tại phòng giam. (ít ra người ta không phải lo vấn đề bảo mật khi sử dụng các tù nhân-chuyên gia mã thám). Nhưng đối với những người còn lại thì vấn đề này luôn là rất cấp thiết. Các nhân viên Phòng Đặc biệt bị cấm nói về cơ quan mình đang làm việc và vị trí của nó. Thậm chí, họ không được phép đến các nhà hàng vì gián điệp nước ngoài nghe lén có thể các cuộc trò chuyện của họ ở đó.

Trước cách mạng, Krivosh-Nemanich nhiều lần được cử đi công tác nước ngoài với nhiệm vụ thu thập tin tức về hoạt động của các cơ quan cơ yếu nước ngoài. Khi trở về từ các chuyến công tác đó, ông ta viết báo cáo cho lãnh đạo, viết các báo cáo đặc biệt, đưa ra các đề xuất hoàn thiện hoạt động của cơ quan mã thám của Nha Cảnh sát sa hoàng. Người ta không tận dụng mọi thứ ông quan sát được, hay chấp nhận tất cả những lời khuyên và khuyến nghị. Boky không chỉ phân tích kỹ lưỡng tất cả những tin tức Krivosh-Nemanich cung cấp, mà còn cố sử dụng chúng trên thực tế. Chẳng hạn, Boky coi kinh nghiệm thu thập thông tin cần thiết bằng các phương pháp khác nhau của các cơ quan mã thám Pháp là rất có ích. Các nguồn tin đó là bản sao tất cả các bức điện mà các sứ quán nước ngoài gửi hoặc nhận, các loại thư tín ngoại giao khác, cũng như các tin tức có thể thu thập bằng cách mua chuộc, hăm doạ các nhân viên sứ quán. Nhiều kênh cũng cung cấp những tin tức như nhau, hoặc dưới dạng bản nháp bị xé, một bức điện mật mã hay một câu chuyện nghe lén được. Phương pháp thu tin từ nhiều kênh này lập tức được Boky đưa vào sử dụng.

Thời trước chiến tranh, Phòng Đặc biệt nhiều lần cho thành lập các nhóm đặc biệt để thực hiện các nhiệm vụ quan trọng. Các nhóm này gồm các chuyên gia mã thám giàu kinh nghiệm và được cử đến các vùng chiến sự. Mà những nơi như thế có không ít trong thập niên 1930.

Năm 1936, một số chuyên gia mã thám của Phòng Đặc biệt đã cùng đơn vị chặn thu đi tàu thuỷ sang Tây Ban Nha và vừa đến nơi họ bắt đầu làm việc ngay trong Bộ Tổng tham mưu quân đội cộng hoà. Trước hết, họ tổ chức chặn thu điện tín của quân nổi loạn Franco và quân đoàn Italia đến cứu viện chúng. Ban đầu, họ gặp rất nhiều khó khăn như không biết tiếng và đặc điểm trao đổi điện tín nên các thành tựu đầu tiên của họ là rất khiêm tốn. Nhưng dần dần công việc diễn biến tốt đẹp nên bộ chỉ huy quân đội cộng hoà cùng các cố vấn quân sự Liên Xô bắt đầu nhận được ngày càng nhiều thông tin giá trị.

Các chuyên gia mã thám thuộc nhóm tác chiến đặc biệt ở Tây Ban Nha được các đồng nghiệp của họ ở Moskva giúp đỡ. Chẳng hạn, họ đã giải mã được bức điện của bọn Franco báo tin sẽ có một chiếc tàu chở quân tiếp viện cho quân cộng hoà từ Marseille đến Barcelona. Bức điện có chứa mệnh lệnh đánh đắm con tàu bất kể nó treo cờ nước nào. Thông tin này lập tức được Moskva thông báo đến Marseille trước khi con tàu ra khơi chở theo nhiều phi công, bộ đội xe tăng Liên Xô và binh sĩ các lữ đoàn quốc tế đang vội đến giúp đỡ phe cộng hoà Tây Ban Nha. Nhờ được cảnh báo kịp thời, họ đã được cứu sống. Ngoài các điện tín liên lạc quân sự, nhóm tác chiến đặc biệt còn đọc các bức điện của lưới điệp báo của bọn Franco vốn đang theo dõi sát tàu bè cập các cảng của Cộng hoà Tây Ban Nha.

Một nhóm tác chiến đặc biệt khác gồm các nhân viên Phòng Đặc biệt đã được cử đến Trung Quốc để hỗ trợ cho Trung Quốc trong cuộc chiến chống Nhật. Hàng tháng, nhóm này giải mã được gần 200 bức điện mật mã của Nhật và trong tổng cộng 1,5 năm hoạt động ở Trung Quốc, nhóm đã giải phá 10 loại mật mã quân sự của Nhật.

Làn sóng thanh trừng đã không bỏ qua ngành tình báo vô tuyến điện tử Liên Xô, cũng giống như các cơ quan khác của NKVD. Hơn 40 chuyên gia mật mã Xô-viết đã trở thành nạn nhân. Cuối năm 1937, Boky và vị phó của ông P.Kh. Kharkevich đã bị xử bắn. Người kế nhiệm của Boky cũng làm việc không lâu trên cương vị của mình và ông bị bắt sau đó một tháng. Tuy vậy, ở cấp thấp hơn, các chuyên gia mã thám cấp thấp không bị tổn thất nhiều vì thanh trừng như các cán bộ của cơ quan điệp báo. S. Tolstoi, trưởng phân ban Nhật của Ban Mã thám của Phòng Đặc biệt, có lẽ là phân ban hiệu quả nhất của ban, đã làm việc trên cương vị này cả trong thời kỳ thanh trừng và chiến tranh thế giới thứ II. Thành công của Tolstoi đã được đánh giá cao hơn thành tích của bất kỳ chuyên gia mã thám mã thám Xô-viết thời chiến nào khác và ông đã được tặng thưởng hai huân chương Lenin.

Trong thập niên 1920-1930, Hồng Quân không có truyền thống và lực lượng có thể so sánh về thành tích với của các cán bộ Cheka trong lĩnh vực mã thám. Việc nhóm tình báo vô tuyến điện tử quân sự được đưa vào biên chế của Phòng Đặc biệt vào năm 1933 chứng tỏ nhóm này thuộc quyền của Phòng Đặc biệt. Dù sao chăng nữa thì người ta biết đến lịch sử của nó ít hơn nhiều so với Phòng Đặc biệt. Có thể đó là vì mỗi quân chủng Lực lượng vũ trang Xô-viết chỉ mã thám điện tín liên lạc của quân chủng tương ứng của quân đội nước ngoài. Chẳng hạn, các chuyên gia mã thám của Hồng Quân thì hoạt động nhằm vào lục quân Anh, Đức, Mỹ, Nhật và các nước khác. Hải quân và Không quân Liên Xô cũng hoạt động như thế.

Các chuyên gia mật mã Liên Xô học nghề tại một loạt cơ sở đào tạo. Ví dụ, khoá đào tạo cơ yếu tại Trường Thuỷ lôi điện của Hải quân ở Kronshtadt có cả môn mã thám. Phó giám đốc học viện (không phải về mật mã mà là về công tác chính trị) của Học viện Công binh mang tên Kuibyshev nguyên là một chuyên gia cơ yếu giàu kinh nghiệm Maslennikov có biệt danh Kriptus. Ông là một nhà thông thái về cơ yếu và nổi danh là giảng viên xuất sắc về mật mã.

Năm 1938, khi Beria còn lãnh đạo NKVD, đơn vị hỗn hợp của ngành tình báo vô tuyến điện tử của NKVD và của Cục 4 trong cơ cấu Phòng Đặc biệt đã bị giải thể. Hoạt động mã thám đối với các bức điện mật mã quân sự được chuyển giao cho tình báo quân sự và nhằm mục đích đó vào tháng 2 năm 1941, Cục 4-Bộ Tổng tham mưu, nay là Tổng cục Tình báo GRU, đã thành lập một cơ quan tình báo vô tuyến điện tử thực sự của riêng mình. Còn Ban Mã thám của Phòng Đặc biệt thì thuộc biên chế một cục của NKVD.